图片来源：Hokyoung Kim
文章来源: 纽约时报 – 新闻取自各大新闻媒体，新闻内容并不代表本网立场！
2015 年 7 月，埃隆·马斯克 (Elon Musk) 庆祝了自己的 44 岁生日，他的妻子在加利福尼亚州一个布满小木屋的葡萄酒乡村度假村举办了一场为期三天的派对。只有家人和朋友，孩子们在纳帕谷的高档住宅周围奔跑。 那是 Twitter 成为 X 之前的几年，特斯拉也迎来了盈利的一年。马斯克和他的前妻塔露拉·莱利（Talulah Riley）——一位女演员，在 HBO 的科幻连续剧《西部世界》中扮演了一个美丽但危险的机器人——距离他们的第二次婚姻破裂还有一年。派对嘉宾拉里·佩奇(Larry Page)那时仍然是谷歌的首席执行官。人工智能在几年前才引起了公众的注意，当时它被用来识别 YouTube 上的猫，准确率达到 16%。第一天晚上吃完晚饭后，马斯克和佩奇坐在游泳池边的炉火旁，人工智能是谈话的一大话题。这两位亿万富翁已经是十多年的朋友了，马斯克有时会开玩笑说，他偶尔会在玩了一晚上的电子游戏后倒在佩奇的沙发上。 但那个晴朗的夜晚很快就变得充满争议，因为两人争论人工智能分歧是最终会提升人类还是毁灭人类。
随着讨论持续到寒冷的时侯，讨论变得越来越激烈，30 多名聚会者中的一些人凑近了听。十多年来，佩奇因声带异常疾病而受困，他低声描述了他对数字乌托邦的憧憬。他说，人类最终将与人工智能机器融合。有一天，将会有多种智能争夺资源，最优秀的将会获胜。 马斯克说，如果发生这种情况，我们就完蛋了，机器将毁灭人类。 带着沮丧的声音，佩奇先生坚持要追求他的乌托邦。最后，他称马斯克先生为“物种主义者”，是一个偏爱人类而非未来数字生命形式的人。 马斯克后来说，这种侮辱是“最后一根稻草”。
当晚散去时，人群中的许多人似乎都目瞪口呆，甚至觉得有些好笑，并认为这只是硅谷派对上经常爆发的深奥辩论中的又一场。 但八年后，两人之间的争论似乎有先见之明，人工智能究竟会提升世界还是毁灭世界 – 或者至少造成严重损害 – 这一问题引发了硅谷创始人、聊天机器人用户、学者、立法者和监管机构之间关于该技术是否应该受到控制或释放的持续争论。 这场争论让世界上一些最富有的人相互对立：马斯克、佩奇、Meta 的马克·扎克伯格、科技投资者彼得·蒂尔、微软的萨蒂亚·纳德拉和 OpenAI 的萨姆·奥尔特曼。所有人都在争夺这一未来可能价值数万亿美元的份额，以及塑造它的权力。
这场竞争的核心是一个令人费脑筋的悖论。那些说自己最担心人工智能的人是最有决心创造它并享受它的财富的人之一。他们坚信，只有他们才能让人工智能保持领先地位，从而证明了自己的雄心壮志，以免危及地球。 那年夏天的聚会结束后不久，马斯克和佩奇就不再说话了。几周后，马斯克与当时经营一家科技孵化器的奥尔特曼以及几名研究人员在加利福尼亚州门洛帕克瑰丽酒店的一间私人房间里共进晚餐，该酒店是靠近该合资企业的热门交易地点沙山路的首都办事处。 那次晚宴促成了一家名为 OpenAI 的初创公司在当年晚些时候的成立。在马斯克先生和其他资助者的数亿美元支持下，该实验室承诺保护世界免受佩奇先生愿景的影响。 得益于其 ChatGPT 聊天机器人，OpenAI 从根本上改变了科技行业，并向世界介绍了人工智能的风险和潜力。据两位熟悉该公司最新一轮融资的人士透露，OpenAI 现在的估值超过 800 亿美元，不过马斯克和奥特曼的合作并未成功。两人从此不再说话。 “存在分歧、不信任和自负，”奥尔特曼先生说。 “人们越接近同一方向，分歧就越有争议。你可以在教派和宗教团体中看到这一点。最亲近的人之间也会发生激烈的争吵。”
上个月，这场内讧来到了 OpenAI 的董事会。 反叛的董事会成员试图赶走 Altman 先生，因为他们认为，他们不能再相信他能够打造人工智能并造福人类。在混乱的五天里，OpenAI 看起来似乎要崩溃了，直到董事会在最大的投资者和威胁要追随奥特曼离开的员工的压力下做出了让步。 OpenAI 内部的戏剧让世界第一次看到那些将决定人工智能未来的人之间的激烈争斗。 但在 OpenAI 濒临崩溃的几年前，硅谷就发生了一场鲜为人知但激烈的竞争，以争夺这项技术的控制权，而这项技术现在正在迅速重塑世界，从如何教育儿童到如何进行战争。 《纽约时报》采访了 80 多名高管、科学家和企业家，其中包括 2015 年参加马斯克生日派对的两人，讲述了这个关于野心、恐惧和金钱的故事。
DeepMind 的诞生 纳帕谷派对的五年前，也就是猫在 YouTube 上取得突破的两年前，34 岁的神经科学家 Demis Hassabis 走进 Peter Thiel 在旧金山联排别墅举行的鸡尾酒会，意识到自己赚到了大钱。蒂尔先生的客厅里有一个棋盘，俯瞰着这座城市的美术宫和天鹅池。哈萨比斯博士曾是 14 岁以下组世界第二好的球员。 “我为那次会议准备了一年，”哈萨比斯博士说。 “我认为这将是我独特的魅力：我知道他喜欢国际象棋。”
2010 年，哈萨比斯博士和两名住在英国的同事正在寻找资金来开始建造“通用人工智能”（A.G.I.），这是一种可以完成大脑能做的任何事情的机器。当时，很少有人对人工智能感兴趣。经过半个世纪的研究，人工智能领域未能提供任何接近人类大脑的东西。 尽管如此，一些科学家和思想家仍然关注人工智能的缺点。许多人，比如这三个来自英国的年轻人，都与埃利泽·尤德科夫斯基（Eliezer Yudkowsky）有联系，埃利泽·尤德科夫斯基是一位互联网哲学家和自学成才的人工智能。研究员。尤德科斯基先生是一群自称为理性主义者或后来称为有效利他主义者的群体中的领导者。 他们相信 A.I.可以找到治疗癌症或解决气候变化的方法，但他们担心人工智能，机器人可能会做其创造者未曾打算做的事情。理性主义者认为，如果机器变得比人类更聪明，机器就会背叛它们的创造者。 蒂尔通过对 Facebook 的早期投资以及在 PayPal 早期与马斯克的合作而变得非常富有。他对奇点产生了浓厚的兴趣，奇点是科幻小说中描述智能技术不再受人类控制的时刻的比喻。
在泰尔先生的资助下，尤德科夫斯基先生扩展了他的人工智能。实验室并举办了关于奇点的年度会议。几年前，哈萨比斯博士的两名同事之一见过尤德科斯基先生，他为他们赢得了在会议上发言的机会，以确保他们会被邀请参加泰尔先生的聚会。
Yudkowsky 先生向 Thiel 先生介绍了哈萨比斯博士。哈萨比斯博士认为聚会上的很多人都会试图向主人榨取金钱。他的策略是安排另一次会议。他告诉蒂尔先生，主教和骑士之间存在着深深的紧张关系。这两件棋子的价值相同，但最优秀的玩家都知道，他们的实力相差甚远。
图片来源：Hokyoung Kim
第二天，蒂尔先生被迷住了，邀请大家回来，他们聚集在厨房里。他们的主人刚刚结束早晨的锻炼，穿着闪亮的运动服，还在大汗淋漓。管家递给他一杯健怡可乐。三人提出了自己的建议，很快泰尔先生和他的风险投资公司同意向他们的初创企业投入 140 万英镑（约合 225 万美元）。他是他们的第一位主要投资者。 他们将公司命名为 DeepMind，这是对“深度学习”的认可，也是人工智能的一种方式。通过分析大量数据来学习技能的系统；神经科学；以及科幻小说《银河系漫游指南》中的 Deep Thought 超级计算机。到 2010 年秋天，他们开始建造自己的梦想机器。他们全心全意地相信，因为他们了解风险，所以他们在保护世界方面处于独特的地位。 DeepMind 三位创始人之一穆斯塔法·苏莱曼 (Mustafa Suleyman) 表示：“我不认为这是一个矛盾的立场。” “这些技术可以带来巨大的好处。我们的目标不是消除它们或暂停它们的发展。我们的目标是减轻不利因素。”
在赢得泰尔先生的青睐后，哈萨比斯博士努力进入马斯克先生的轨道。大约两年后，他们在泰尔投资基金组织的一次会议上见面，该基金也向马斯克的 SpaceX 公司注资。哈萨比斯博士带领大家参观了 SpaceX 总部。随后，火箭外壳悬挂在天花板上，两人在自助餐厅共进午餐并交谈。 马斯克解释说，他的计划是殖民火星，以逃避地球上的人口过剩和其他危险。哈萨比斯博士回答说，只要超级智能机器不跟踪并摧毁火星上的人类，这个计划就会奏效。 马斯克先生无语了。他没有想到那种特殊的危险。马斯克先生很快与泰尔先生一起投资了 DeepMind，这样他就可以更接近这项技术的创造。 DeepMind 资金充裕，聘请了专门研究神经网络的研究人员，神经网络是根据人脑图像创建的复杂算法。神经网络本质上是一个巨大的数学系统，它花费数天、数周甚至数月的时间来识别大量数字数据中的模式。这些系统首次开发于 20 世纪 50 年代，可以学习自行处理任务。例如，在分析了数百个信封上潦草的姓名和地址后，他们可以阅读手写文本。 DeepMind 进一步发展了这个概念。它构建了一个系统，可以学习玩经典的 Atari 游戏，如《太空入侵者》、《Pong》和《Breakout》，以展示什么是可能的。
这引起了另一家硅谷巨头谷歌的注意，特别是拉里佩奇。他看到了 Deep Mind 机器玩 Atari 游戏的演示。他想进去。 人才拍卖会 2012 年秋天，多伦多大学 64 岁的教授 Geoffrey Hinton 和两名研究生发表了一篇研究论文，向世界展示了人工智能的作用。可以做。他们训练了一个神经网络来识别花、狗和汽车等常见物体。 科学家们对 Hinton 博士和他的学生开发的技术的准确性感到惊讶。特别引起注意的是余凯，一名人工智能研究员，他在一次研究会议上认识了 Hinton 博士，最近开始在中国互联网巨头百度工作。据三名知情人士透露，百度向 Hinton 博士和他的学生提供了 1200 万美元的入职条件，让他们加入北京的公司。 Hinton 博士拒绝了百度，但这笔钱引起了他的注意。 这位在剑桥接受过教育的英国侨民除了偶尔在微软和谷歌工作外，他的大部分职业生涯都在学术界度过，他并不是特别受金钱驱动。但他有一个患有精神分裂症的孩子，这笔钱意味着经济安全。 “我们不知道自己值多少钱，”辛顿博士说。他咨询了有关收购的律师和专家，并提出了一个计划：“我们将组织一次拍卖，然后我们将自己出售。”拍卖将在年度人工智能大会期间举行。会议在太浩湖的哈拉斯酒店和赌场举行。
大型科技公司注意到了这一点。谷歌、微软、百度和其他公司开始相信，神经网络是一条通向机器的道路，机器不仅可以看，还可以听、写、说，并最终思考。 佩奇先生在谷歌大脑（他公司的人工智能）中看到了类似的技术。他认为 Hinton 博士的研究可以提升他的科学家的工作水平。他给了谷歌工程高级副总裁艾伦·尤斯塔斯（Alan Eustace）一张相当于一张空白支票，可以雇用任何拥有所需要的专业知识的智能专家。在拍卖前一天晚上，大脑实验室的负责人尤斯塔斯先生和杰夫·迪恩飞往太浩湖，带辛顿博士和他的学生到酒店内的一家牛排馆吃晚饭。迪恩博士回忆说，旧香烟的气味太浓了。他们提出了来谷歌工作的理由。 第二天，辛顿博士在他的酒店房间里进行了拍卖。由于背部有旧伤，他很少坐下来。他把一个垃圾桶倒过来放在桌子上，把笔记本电脑放在上面，看着接下来两天的出价滚滚而来。 谷歌提出了报价。微软也是如此。随着价格的上涨，DeepMind 很快就退出了。根据拍卖的详细文件，行业巨头将出价提高到 2000 万美元，然后是 2500 万美元。当价格超过 3000 万美元时，微软退出，但以 3700 万美元的价格重新加入竞标。
“我们感觉就像在看电影，”辛顿博士说。 然后微软第二次退出。只剩下百度和谷歌了，他们把竞价推到了4200万美元、4300万美元。最后，辛顿博士和他的学生以 4400 万美元停止了拍卖。出价仍在攀升，但他们想为谷歌工作。而且钱是惊人的。 这是一个明确的迹象，表明财力雄厚的公司决心收购最有才华的人工智能人才。 DeepMind 的哈萨比斯博士并没有忽视这一点。他一直告诉员工，DeepMind 将仍然是一家独立的公司。他相信，这是确保其技术不会变成危险事物的最佳方法。 但随着大型科技公司进入人才竞赛，他认为自己别无选择：是时候出售了。 据三位知情人士透露，到 2012 年底，谷歌和 Facebook 正在考虑收购伦敦实验室。 Hassabis 博士和他的联合创始人坚持两个条件：DeepMind 技术不能用于军事目的，并且其 A.G.I.技术必须受到由技术专家和伦理学家组成的独立委员会的监督。 谷歌出价6.5亿美元。 Facebook 的马克·扎克伯格向 DeepMind 的创始人提出了更高的报酬，但他不同意这些条件。 DeepMind 卖给了谷歌。 扎克伯格先生决心打造一个人工智能。他自己的实验室。他聘请了法国计算机科学家 Yann LeCun，他也曾在人工智能研究及运用方面做出过开创性的贡献。 Hinton 博士拍卖一年后，扎克伯格和 LeCun 博士飞往太浩湖购买同样的人工智能项目。当扎克伯格穿着袜子在哈拉赌场的套房里走来走去时，他亲自采访了顶尖研究人员，他们很快就获得了数百万美元的薪水和股票。
人工智能一度被嘲笑，硅谷最富有的人现在正斥资数十亿美元，以免被抛在后面。 失落的道德委员会，当马斯克投资 DeepMind 时，他打破了自己的非正式规则 – 他不会投资任何不是他自己经营的公司。他的决定的缺点已经很明显了，在他生日后与佩奇先生发生口角仅一个月左右，他就再次与他的前朋友兼亿万富翁同行面对面。 2015 年 8 月 14 日，DeepMind 道德委员会召开了第一次会议。该委员会是在这家初创公司创始人的坚持下成立的，目的是确保他们的技术在出售后不会造成任何损害。据三名知情人士透露，成员们在 SpaceX 马斯克办公室外的一间会议室举行会议，从一扇窗户可以看到他的火箭工厂。 但这就是马斯克先生控制权的终结。当谷歌收购 DeepMind 时，它收购了整个公司。马斯克先生出去了。在经济上他已经领先了，但他并不高兴。 目前牢牢控制 DeepMind 的三名谷歌高管也在场：佩奇先生、谢尔盖·布林 (Sergey Brin)，谷歌联合创始人、特斯拉投资者；以及谷歌董事长埃里克·施密特。其他与会者包括 PayPal 的另一位创始人里德·霍夫曼 (Reid Hoffman) 和研究“存在风险”的澳大利亚哲学家托比·奥德 (Toby Ord)。
DeepMind 创始人报告说，他们正在推进他们的工作，但他们意识到这项技术存在严重风险。
图片来源：Hokyoung Kim
DeepMind 联合创始人苏莱曼先生发表了题为“The Pitchforkers Are Coming”的演讲。他告诉董事会，这可能会导致虚假信息激增。他担心，随着这项技术在未来几年取代无数工作岗位，公众会指责谷歌窃取了他们的生计。他认为，谷歌需要与数百万无法再找到工作的人分享其财富，并提供“全民基本收入”。 马斯克先生同意了。但很明显，他的谷歌客人并不准备开始（他们的）财富的重新分配。施密特先生说，他认为这种担忧完全是多余的。佩奇先生用他一贯的低语表示同意。他认为，创造的就业机会将多于所夺走的就业机会。 八个月后，DeepMind 取得了一项震惊人工智能界和全世界的突破，一台名为 AlphaGo 的 DeepMind 机器在古老的围棋游戏中击败了世界上最好的棋手之一。这场比赛通过互联网直播，全球有 2 亿人观看。大多数研究人员都认为人工智能。还需要 10 年的时间来集结聪明才智才能做到这一点。
理性主义者、有效的利他主义者和其他担心人工智能风险的人声称计算机的胜利证实了他们的恐惧。 “这是人工智能的另一个迹象，它的进展速度甚至比许多专家预期的还要快。”维多利亚·克拉科夫纳 (Victoria Krakovna) 很快就会加入 DeepMind，成为“人工智能专家”， 安全研究员在博客文章中写道。 DeepMind 的创始人越来越担心谷歌会如何处理他们的发明。 2017年，他们试图脱离公司， 谷歌的回应是增加 DeepMind 创始人及其员工的工资和股票奖励。他们留在了原地。 道德委员会从未召开过第二次会议。 分手 确信佩奇先生对人工智能的乐观看法；马斯克先生大错特错，他对失去 DeepMind 感到愤怒，他建立了自己的实验室。 OpenAI 成立于 2015 年底，就在他在硅谷瑰丽酒店与 Sam Altman 会面几个月后。马斯克向实验室注入了大量资金，他在 PayPal 的前好友霍夫曼和泰尔也加入其中。三人和其他人承诺向该项目投入 10 亿美元，当时 30 岁的奥尔特曼将帮助运营该项目。为了让他们开始，他们从谷歌挖来了 Ilya Sutskever。 （Sutskever 博士是 Google 在 Hinton 博士的拍卖中“购买”的研究生之一。）
最初，马斯克希望将 OpenAI 作为一个非营利组织来运营，不受谷歌和其他公司的经济激励措施的影响。但当谷歌以其 Go 特技让科技界惊叹不已时，马斯克已经改变了他对公司运营方式的看法。他迫切希望 OpenAI 发明一些能够激发世界想象力并缩小与谷歌差距的东西，但作为一个非营利组织，它并没有完成这项工作。 据四位知情人士透露，2017 年底，他制定了一项计划，从 Altman 和其他创始人手中夺取该实验室的控制权，准备将其转变为商业运营与特斯拉联手，并依赖该汽车公司正在开发的超级计算机。与此事有关。 当奥特曼和其他人进行反击时，马斯克退出并表示他将专注于自己的人工智能。三名参加会议的人士称，2018 年 2 月，他在一家改装卡车工厂的初创公司办公室顶层向 OpenAI 的员工宣布离职，当他说 OpenAI 需要加快步伐时，一位研究人员在会议上反驳说马斯克先生太鲁莽了，马斯克称这位研究人员为“混蛋”，然后带着丰厚的财力愤然离去。 OpenAI 突然急需新的融资。奥尔特曼飞往太阳谷参加会议，并遇到了微软首席执行官萨蒂亚·纳德拉 (Satya Nadella)。合作似乎很自然。奥特曼先生认识微软首席技术官凯文·斯科特。微软从 OpenAI 董事会成员霍夫曼手中收购了 LinkedIn。纳德拉先生告诉斯科特先生去完成它。该交易于 2019 年完成。 Altman 先生和 OpenAI 在原来的非营利组织下组建了一家营利性公司，他们拥有 10 亿美元的新资本，微软也有一种新方法将人工智能构建到其庞大的云计算服务中。
并非 OpenAI 内部的每个人都感到高兴。 OpenAI 诞生时，达里奥·阿莫迪 (Dario Amodei) 是一位与高效利他主义社区有联系的研究员，他就在瑰丽酒店。阿莫代博士在讲话时不断地用手指扭动自己的卷发，他正在领导实验室努力构建一种称为大型语言模型的神经网络，该网络可以从大量数字文本中学习。通过分析无数的维基百科文章、数字图书和留言板，它可以自行生成文本。它也有编造事情的坏习惯，它被称为 GPT-3，于 2020 年夏天发布。 OpenAI、谷歌和其他公司的研究人员认为，这种快速改进的技术可能是通向 A.G.I. 的道路。 但 Amodei 博士对微软的交易并不满意，因为他认为这将 OpenAI 引向真正的商业方向。据五位知情人士透露，他和其他研究人员前往董事会，试图将奥特曼赶下台。失败后，他们就离开了。就像 DeepMind 的前任创始人一样，他们担心新的企业霸主会优先考虑商业利益而不是安全。 2021 年，这个由约 15 名工程师和科学家组成的团队创建了一个名为 Anthropic 的新实验室。该计划是建立人工智能。有效的利他主义者认为应该采取的方式——非常严格的控制。 Anthropic 发言人 Sally Aldous 表示：“Anthropic 的联合创始人并没有试图将 Sam Altman 从 OpenAI 中剔除。” “联合创始人自己得出的结论是，他们希望离开 OpenAI 创办自己的公司，并向 OpenAI 的领导层通报了这一点，并在几周内以双方同意的条件协商退出。”
Anthropic 接受了亚马逊 40 亿美元的投资，两年后又接受了谷歌 20 亿美元的投资。 揭晓 在 OpenAI 又从微软获得 20 亿美元资金后，奥特曼和另一位高管格雷格·布罗克曼 (Greg Brockman) 拜访了比尔·盖茨 (Bill Gates)，他位于西雅图郊外华盛顿湖畔的豪宅。这位微软创始人不再参与公司的日常事务，但与公司高管保持定期联系。
图片来源：Hokyoung Kim
晚餐时，盖茨先生告诉他们，他怀疑大型语言模型能否发挥作用。他说，他会保持怀疑态度，直到该技术完成一项需要批判性思维的任务——例如通过 A.P. 生物学测试。 五个月后，即 2022 年 8 月 24 日，Altman 先生和 Brockman 先生回来了，并带来了一位名叫 Chelsea Voss 的 OpenAI 研究员。沃斯女士在高中时曾获得过国际生物奥林匹克竞赛的奖牌。纳德拉和其他微软高管也出席了会议。
在盖茨先生客厅外的巨大数字显示屏上，OpenAI 团队展示了一项名为 GPT-4 的技术。 布罗克曼先生对系统进行了多项选择的高级生物学测试，沃斯女士对答案进行了评分。第一个问题涉及极性分子，即一端带正电荷、另一端带负电荷的原子团。系统回答正确并解释了它的选择。 “它只是经过训练来提供答案，”布罗克曼先生说。 “谈话的本质几乎神奇地消失了。”换句话说，它正在做一些他们并没有真正设计它要做的事情。 有 60 个问题。 GPT-4 只有一个答案错误。 盖茨先生从椅子上坐起来，睁大了眼睛。 1980 年，当研究人员向他展示成为现代个人计算机基础的图形用户界面时，他也有类似的反应。他认为 GPT 就是革命性的。 到 10 月，微软在其在线服务中添加了该技术，包括 Bing 搜索引擎。两个月后，OpenAI 发布了 ChatGPT 聊天机器人，目前每周有 1 亿人使用该机器人。 OpenAI 击败了 Anthropic 的高效利他主义者。佩奇在谷歌的乐观派急忙发布了他们自己的聊天机器人 Bard，但人们普遍认为他们在与 OpenAI 的竞争中失败了。 ChatGPT 发布三个月后，谷歌股价下跌了 11%。马斯克先生也无处可寻。 但这只是开始。
苏珊·比奇 (Susan Beachy) 贡献了研究成果。
（此文由本站编译）