“深知人工智能风险的人群，坚信唯有由他们亲手打造，方能确保其安全。然而，这一信念激发了深藏的不信任，进而引发了一场愈演愈烈的竞赛。”



  2015年7月，埃隆·马斯克在加州的葡萄酒产区度假村庆祝了他的44岁生日。



这是一个只有家人和朋友参加的三天派对，地点布置有多个小屋，孩子们在纳帕谷的豪华场地上玩耍。



那时距离Twitter重组成X和特斯拉首次盈利还有几年。



马斯克和他的妻子塔卢拉·莱利（她在HBO的科幻剧《西部世界》中扮演一位既美丽又危险的机器人）的第二次婚姻即将结束。



派对的嘉宾之一，谷歌首席执行官拉里·佩奇，当时还在职。



而人工智能刚刚开始引起公众关注，它曾被用于在YouTube上以16%的准确率识别猫。



在派对的第一天晚上，马斯克和佩奇在晚餐后的泳池旁火坑边深入讨论了人工智能。



这两位亿万富翁已经是十多年的朋友，马斯克有时会开玩笑说，他会在玩完电子游戏后偶尔在佩奇的沙发上过夜。


但那个夜晚，两人关于人工智能是促进人类进步还是导致毁灭的辩论变得尤为激烈。


  当讨论延续到深夜，场面越来越紧张，30多位派对嘉宾围聚起来倾听。



由于长期受声带疾病困扰的佩奇先生小声描述了他的数字乌托邦梦想，即人类最终与AI机器融合，竞争资源，最强者生存。


马斯克回应称，这样的发展将导致人类灭亡。佩奇先生强调应追求这一愿景，甚至将马斯克称为偏袒人类的“物种主义者”。


马斯克形容这一侮辱是他的“忍耐极限”。许多围观者虽然对此感到惊讶但也觉得有趣，认为这只是硅谷派对上常有的深奥讨论之一。


然而，八年后，这两人的争论显得预见未来。关于AI是提升世界还是毁灭之间的争论，已成为硅谷创业家、聊天机器人用户、学者和政策制定者之间的核心议题，涉及AI技术是应该受到管控还是放任发展。


这场辩论让世界上一些最富有的人站在了对立面，包括马斯克、佩奇、扎克伯格、蒂尔、纳德拉和奥特曼，他们都在争夺这个潜在价值数万亿美元的市场的一席之地，并努力塑造其发展方向。


这场关于AI的辩论使一些世界上最富有的人士陷入对立，包括马斯克、佩奇、Meta的扎克伯格、科技投资者蒂尔、微软的纳德拉和OpenAI的奥特曼。他们都在争夺这个未来可能价值数万亿美元的业务领域的控制权。


竞争的核心是一个难以理解的悖论：那些对AI最担忧的人，反而最积极推动它的发展和从中获利。他们认为只有他们能有效控制AI，避免其对地球造成威胁。


那个夏天派对后不久，马斯克和佩奇就不再交流。几周后，马斯克在加州门洛帕克的Rosewood酒店与奥特曼（当时管理一家技术孵化器）及一些研究人员共进晚餐，此地是风险投资界的热门交易地点。


这次晚餐促成了OpenAI的成立，这家公司获得马斯克和其他投资者数亿美元的支持，承诺抵御佩奇愿景所带来的威胁。


OpenAI凭借其ChatGPT聊天机器人，在根本上改变了科技行业，并向世界展示了人工智能的风险与潜能。



据两位了解公司最新融资情况的人士透露，OpenAI的估值已超过800亿美元，但马斯克和奥特曼的合作并未持续下去，两人已经不再交流。


奥特曼表示：“存在着分歧、不信任和个人利益问题。当人们的目标趋于一致时，分歧就变得更加尖锐。这种情况在宗教团体和教派中很常见，亲近的人之间往往会发生激烈的争吵。”


上个月，这种内部争斗蔓延到了OpenAI的董事会。部分董事成员试图罢免奥特曼，因为他们不再相信他能建造对人类有益的AI。



在五天的混乱中，OpenAI一度面临解体危机，直到在大投资者和威胁随奥特曼离开的员工的压力下，董事会最终让步。



OpenAI内部的这场纷争让世界首次看到了决定AI未来的人之间的激烈斗争。


    在OpenAI险些解体的多年前，硅谷就已经展开了一场鲜为人知但非常激烈的竞争，为了争夺如今正在迅速改变世界的技术控制权，这些技术改变了从儿童教育到战争方式的一切。



《纽约时报》采访了80多位高管、科学家和创业者，包括两位参加了2015年马斯克生日派对的人，他们共同讲述了一个关于雄心、恐惧和金钱的故事。


DeepMind的起源


在纳帕谷派对的五年前和YouTube上猫的识别突破前两年，34岁的神经科学家德米斯·哈萨比斯参加了彼得·蒂尔在旧金山的联排别墅举办的鸡尾酒会，并意识到他找到了机会。



在蒂尔的客厅里，可以看到城市的美术宫和天鹅池，还有一副棋盘。哈萨比斯曾是全球14岁以下组别的第二棋手。


“我为那次会面准备了一年，”哈萨比斯回忆道。“我认为这将是我吸引他注意的独特方式：我知道他喜欢下棋。”


2010年，哈萨比斯和他在英国的两位同事正在寻找资金，希望构建“通用人工智能”（A.G.I.），这是一种能做任何人脑能做的事的机器。



那时，人工智能领域经过半个世纪的研究，但未能产出任何接近人类大脑的成果，因此很少有人对它感兴趣。


    尽管如此，一些科学家和思想家开始越来越关注人工智能的潜在风险。像这三位英国年轻人一样，许多人与网络哲学家、自学成才的人工智能研究者埃利泽·尤多科斯基有联系。尤多科斯基是自称为“理性主义者”或后来的“有效利他主义者”的社群的领袖。


他们相信人工智能可以找到治愈癌症的方法或解决气候变化问题，但同时担心人工智能机器人可能会做出超出创造者预期的行为。理性主义者认为，如果机器变得比人类更聪明，它们可能会反过来对抗创造者。


蒂尔通过早期投资Facebook和与马斯克合作PayPal而变得非常富有。他对“奇点”——科幻小说中描述智能技术超出人类控制的时刻——产生了浓厚兴趣。


在蒂尔的资助下，尤多科斯基扩大了他的人工智能实验室，并创办了一个关于奇点的年度会议。在此之前，哈萨比斯博士的两位同事中的一个遇到了尤多科斯基，并确保他们在会议上获得发言机会，也因此被邀请参加了蒂尔的派对。


尤多科斯基把哈萨比斯博士介绍给了蒂尔。哈萨比斯意识到派对上许多人可能都在向主人寻求投资，所以他打算另外安排一次会面。



他对蒂尔提出了一个见解：在国际象棋中，象和马虽然价值相等，但存在着深刻的差异。他解释说，虽然这两个棋子的分值相同，但最棒的棋手懂得它们各自的优势截然不同。



这个方法成功了。蒂尔被他们吸引，第二天再次邀请他们到他的家中，大家在厨房聚集。蒂尔刚做完早晨的锻炼，还穿着湿漉漉的运动服。他接过管家递来的一罐健怡可乐。



这三人介绍了他们的计划，不久后，蒂尔及其风险投资公司决定向他们的初创公司投资140万英镑（约225万美元），成为他们的第一位大投资者。


他们将公司命名为DeepMind，这不仅是对“深度学习”（一种AI系统通过分析大量数据来学习技能的方法）的致敬，也是对神经科学以及科幻小说《银河系漫游指南》中“深思”超级计算机的引用。



到了2010年秋天，他们开始实现他们的梦想机器。他们坚信，正是因为他们深刻理解相关风险，所以他们独具慧眼，能够保护世界。



“我认为这不是一个自相矛盾的立场，”DeepMind三位创始人之一穆斯塔法·苏莱曼表示。“这些技术将带来巨大的好处。我们的目标不是停止或暂缓它们的发展，而是要减少它们可能带来的负面影响。”



在获得蒂尔的支持后，哈萨比斯博士开始接近马斯克。两年后，他们在蒂尔投资基金举办的一次会议上见面，该基金也对马斯克的SpaceX公司进行了投资。



哈萨比斯获得了参观SpaceX总部的机会。之后，他们在装饰有火箭壳的餐厅里用餐并进行了交谈。



马斯克分享了他殖民火星的计划，以此来逃避地球上的过度人口和其他危险。哈萨比斯回答说，这个计划是可行的——只要超智能机器不跟着他们到火星上也摧毁人类。



这个观点让马斯克无言以对，他之前没有考虑过这种特殊的危险。不久之后，马斯克和蒂尔一起投资了DeepMind，这样他就能更加靠近这项技术的开发。


资金充足后，DeepMind开始招募专门研究神经网络的研究人员。神经网络是一种复杂的算法，模仿人脑构建，本质上是一个大型数学系统，能够花费数日、数周甚至数月的时间来识别大量数据中的模式。



这些系统最初于1950年代开发，能学会自主处理任务，例如在分析数百个信封上的手写姓名和地址后，它们能识别手写文本。


DeepMind将这一概念推向了新高度。他们建造了一个能够学习玩如《太空侵略者》、《乒乓球》和《打砖块》等经典雅达利游戏的系统，以展示其潜力。


这吸引了硅谷的另一家巨头谷歌，尤其是拉里·佩奇的注意。他看到了DeepMind机器玩雅达利游戏的演示，并想加入其中。


人才竞赛


2012年秋，多伦多大学64岁的教授杰弗里·辛顿和他的两名研究生发表了一篇研究论文，展示了人工智能的能力。他们训练了一个神经网络识别常见物体，如花、狗和汽车。


科学家们对辛顿博士及其学生开发的技术的准确度感到惊讶。特别关注这一点的是余凯，一位在研究会议上遇见辛顿博士的人工智能研究者，他最近加入了中国的互联网巨头百度。



据了解，百度提出了1200万美元的报价，邀请辛顿博士和他的学生加入其北京团队。


尽管辛顿博士拒绝了百度的提议，这笔钱还是引起了他的关注。这位在剑桥受教育的英国移民在学术界度过了大部分职业生涯，偶尔在微软和谷歌工作，金钱对他而言并不是驱动力。但他有一个神经多样性的孩子，因此这笔钱将意味着经济安全。


“我们不知道自己值多少钱，”辛顿博士说。他咨询了律师和收购方面的专家，决定采取一个策略：“我们将组织一场拍卖，把自己卖掉。”这场拍卖将在塔霍湖哈拉斯酒店举办的年度人工智能会议期间进行。


大型科技公司开始注意到这一趋势。谷歌、微软、百度等公司开始认识到神经网络可能是实现机器不仅能看、听、写、说话，甚至最终思考的关键途径。


佩奇在谷歌的人工智能实验室Google Brain看到了类似的技术，并认为辛顿博士的研究能提升他的科学团队的工作。他授权谷歌的高级副总裁艾伦·尤斯塔斯以任何必要的方式招募人工智能专家。


尤斯塔斯和负责Brain实验室的杰夫·迪恩飞往塔霍湖，在拍卖前一晚在酒店的牛排馆与辛顿博士及其学生共进晚餐。迪恩回忆，老烟味非常浓重。他们向辛顿博士展示了在谷歌工作的优势。


第二天，辛顿博士在他的酒店房间组织了拍卖。由于背部旧伤，他很少坐着。他把一个垃圾桶倒置在桌子上，把笔记本放上面，开始观察接下来两天的出价。


谷歌提出了报价，微软也参与了竞标。随着价格上涨，DeepMind退出了竞争。巨头们将出价推高至2000万美元、2500万美元。根据拍卖的文件，当价格超过3000万美元时，微软退出，但在3700万美元时重新加入竞争。


“我们觉得自己像是在电影里，”辛顿博士回忆道。


微软再次退出后，只剩下百度和谷歌在竞标，价格被推高到4200万美元、4300万美元。最终，当出价达到4400万美元时，辛顿博士和他的学生决定停止拍卖。虽然出价仍在上涨，但他们更愿意加入谷歌，而且这笔金额是巨大的。



这清楚地表明，资金雄厚的公司正决心收购最优秀的人工智能研究人才，这一点哈萨比斯博士在DeepMind中也意识到了。他一直向员工承诺，DeepMind将保持独立，他相信这是确保技术不会走向危险的最好方式。


但随着大型科技公司加入人才竞赛，他认为自己别无选择，必须出售公司。


到2012年底，谷歌和Facebook都在试图收购这家伦敦实验室。哈萨比斯博士及其联合创始人坚持两个条件：DeepMind的技术不能用于军事目的，且其通用人工智能技术必须由独立的技术和伦理委员会监督。


谷歌出价6.5亿美元。Facebook的马克·扎克伯格提供了更高的报价，但不同意这些条件。最终，DeepMind选择了谷歌。


扎克伯格决定创建自己的AI实验室，并聘请了在人工智能领域做过开创性研究的法国计算机科学家扬·勒坤负责运营。



辛顿博士拍卖的一年后，他和勒坤博士一同前往塔霍湖参加同一场AI会议。扎克伯格在哈拉斯赌场的套房里只穿袜子行走，亲自面试了一些顶尖研究人员，很快他们被提供了数百万美元的薪资和股票。


曾被视为笑话的人工智能现在让硅谷的富豪们投入数十亿美元以免落后。


消失的伦理委员会


马斯克投资DeepMind时，打破了自己的一项非正式规则，即不投资于他不亲自经营的公司。这一决策的负面影响在他与佩奇在生日派对上的争执后不久就显现了，当时他再次面对着他的前朋友和亿万富翁同行。



他们的再次相遇是在2015年8月14日DeepMind伦理委员会的首次会议上。这个委员会是应创始人要求成立的，目的是确保他们的技术在出售后不会造成伤害。据三位知情人士透露，委员会成员在马斯克SpaceX办公室外的会议室聚集，窗外是他的火箭制造厂。


马斯克的影响力在此结束了。谷歌收购DeepMind意味着他不再参与公司事务。虽然从财务角度他取得了成功，但他对此并不满意。


在控制DeepMind的谷歌高管中，包括佩奇、谷歌联合创始人及特斯拉投资者谢尔盖·布林，以及谷歌董事长埃里克·施密特。会议还有其他出席者，如PayPal的另一位创始人里德·霍夫曼和研究“存在性风险”的澳大利亚哲学家托比·奥德。


DeepMind的创始人汇报了他们正在继续进行的工作，并强调他们意识到这项技术潜藏的严重风险。


DeepMind的联合创始人苏莱曼在董事会上做了一场题为“民众的反抗即将来临”的演讲。他指出，人工智能可能会导致假信息的大量增加。他还表达了对于这项技术在未来几年里取代大量工作岗位的担忧，担心公众会指责谷歌剥夺了他们的生计。苏莱曼认为，谷歌应该与那些无法找到工作的数百万人分享其财富，并支持实施“全民基本收入”的政策。


马斯克对这一点表示赞同。但很明显，他的谷歌来宾并不打算进行他们财富的分配。施密特先生认为这些担忧被过分放大了，佩奇先生也以他一贯的低声细语表示赞同。佩奇认为，人工智能将创造比它消灭的更多工作。


仅仅八个月后，DeepMind实现了一项惊世骇俗的突破，震撼了整个人工智能界和全世界。DeepMind的AlphaGo机器击败了世界上最顶尖的围棋选手之一。这场比赛通过互联网直播，吸引了全球约2亿人观看。



之前，大多数研究人员认为人工智能至少还需要10年的时间才能展现出这种创造性。


理性主义者、有效利他主义者和其他担忧人工智能风险的人士声称，这场计算机的胜利证实了他们的担忧。



“这表明人工智能的发展速度甚至超出了许多专家的预期，”即将加入DeepMind作为“人工智能安全”研究员的维多利亚·克拉科夫娜在一篇博客中写道。


DeepMind的创始人对于谷歌将如何利用他们的发明越来越担忧。2017年，他们尝试从谷歌中独立出来，而谷歌则通过提高DeepMind创始人及其团队的薪资和股票奖励来应对。最终，他们选择留在谷歌。


伦理委员会从未再召开第二次会议。


分裂


对佩奇对于人工智能乐观看法的怀疑，以及对失去DeepMind的不满，促使马斯克建立了自己的实验室。


OpenAI成立于2015年末，紧随他在硅谷Rosewood酒店与萨姆·奥特曼的会面之后。马斯克为这个实验室提供了资金支持，他的前PayPal同事霍夫曼和蒂尔也加入其中。他们三人及其他人承诺为该项目投入10亿美元。当时30岁的奥特曼将参与管理这个项目。作为起步，他们从谷歌挖走了伊利亚·苏茨克弗（苏茨克弗是辛顿拍卖中谷歌收购的研究生之一）。


起初，马斯克希望将OpenAI作为一个非盈利机构运行，以免受像谷歌等公司的经济动机影响。但在谷歌用围棋的成就震撼科技界后，马斯克开始重新思考OpenAI的运营方式。他急切地希望OpenAI能发明能够引起全球关注并缩小与谷歌差距的产品，但作为非盈利机构，OpenAI未能实现这一目标。


到2017年底，马斯克计划从奥特曼和其他创始人手中接管实验室，并将其转化为一家商业公司，与特斯拉合作，利用特斯拉开发的超级计算机，据四位知情人士称。
当奥特曼等人反对时，马斯克选择退出并专注于特斯拉的AI工作。2018年2月，他在OpenAI办公室的顶层向员工宣布了他的离开决定。当他表示OpenAI需要加快步伐时，一位研究员在会议上反驳称马斯克过于鲁莽。


马斯克称该研究员为“愚蠢的人”并愤然离开，带走了他的资金。


OpenAI迫切需要新的资金来源。奥特曼前往森谷参加会议，偶然遇到了微软首席执行官纳德拉。合作似乎是自然的选择。



奥特曼认识微软的首席技术官凯文·斯科特，而微软此前已经从OpenAI董事会成员霍夫曼手中收购了LinkedIn。纳德拉指示斯科特去完成这笔交易。交易在2019年达成。



奥特曼和OpenAI在其最初的非盈利机构之下成立了一家盈利公司，拥有10亿美元的新资金，而微软则通过这种方式将人工智能整合进其广泛的云计算服务中。


然而，并非OpenAI内部所有人都对此感到满意。


与有效利他主义社群有联系的研究员达里奥·阿莫代参与了OpenAI在Rosewood酒店的成立。他一直在领导实验室开发一种称为大型语言模型的神经网络，这种模型可以从大量数字文本中学习。通过分析无数的维基百科文章、数字书籍和论坛帖子，它能自行生成文本。不过，它也有误导性信息的倾向。这个被称为GPT-3的模型在2020年夏天发布。


OpenAI、谷歌和其他公司的研究人员认为这种快速进步的技术可能是实现通用人工智能的途径。


但阿莫代对与微软的交易感到不满，因为他认为这将OpenAI推向了极度商业化的方向。他和其他研究人员试图向董事会施压，让奥特曼下台，据五名知情人士称。他们的尝试失败后选择离开。像DeepMind的创始人之前一样，他们担心新的公司管理者会将商业利益置于安全之上。

在2021年，大约15名工程师和科学家组成的团队成立了一个名为Anthropic的新实验室。他们的目标是以有效利他主义者认为的方式，通过严格控制来开发人工智能。
“Anthropic的联合创始人并没有试图从OpenAI中移除萨姆·奥特曼，”Anthropic的发言人萨莉·阿尔多斯表示。“联合创始人们自己决定离开OpenAI并创立自己的公司，他们已经向OpenAI的领导层明确了这一决定，并在几周内协商了一个双方都满意的离职方案。”


两年后，Anthropic接受了来自亚马逊的40亿美元和谷歌的20亿美元投资。


揭晓


在OpenAI从微软获得了额外的20亿美元投资之后，奥特曼和另一位高管格雷格·布罗克曼前往西雅图外的华盛顿湖畔，拜访了比尔·盖茨在那里的宏伟豪宅。虽然盖茨不再日常参与微软的运营，但他仍然定期与公司的高管保持联系。


在晚餐期间，盖茨对他们表示，他对大型语言模型的有效性表示怀疑。他表示，除非这项技术能够完成一项需要批判性思维的任务——例如通过一个高级生物学考试，否则他将保持怀疑态度。


五个月后，也就是2022年8月24日，奥特曼和布罗克曼再次访问盖茨，并带来了一位名叫切尔西·沃斯的OpenAI研究员。沃斯曾在高中时获得国际生物奥林匹克竞赛的奖牌。纳德拉和其他微软的高管也出席了。


在盖茨客厅外的一个巨大的数字显示屏上，OpenAI团队向在场人员展示了称为GPT-4的技术。


布罗克曼让GPT-4系统参加了一项高级生物学的多项选择测试，由沃斯评分。第一个问题涉及极性分子，即一端带正电荷，另一端带负电荷的原子团。系统不仅正确回答了这个问题，还解释了其选择。“它本来只被训练来提供答案，”布罗克曼解释道。“但对话的特性几乎像魔法一样自然显现。”也就是说，系统表现出了一些设计者原本未预期的能力。


总共有60个问题，GPT-4仅错了一个。
盖茨在椅子上坐直了，眼睛睁得大大的。他在1980年看到将成为现代个人电脑基础的图形用户界面时也有过类似的反应。他认为GPT技术具有同样的革命性。


到了10月，微软开始在其在线服务中，包括必应搜索引擎中，整合这项技术。两个月后，OpenAI发布了其ChatGPT聊天机器人，现在每周有1亿人使用。


OpenAI在与Anthropic的有效利他主义者的竞争中取得了领先。谷歌的乐观派急于推出他们自己的聊天机器人Bard，但普遍被认为已经落后于OpenAI。在ChatGPT发布三个月后，谷歌股价下跌了11%。而马斯克已经不见踪影。


但这仅仅是一个开始。