6个月前，OpenAI发作了一场举世瞩目的内部斗争：

CEO奥特曼（Sam Altman）突然被开除，106个小时后，又在员工的蜂拥下复职。

自那之后，“刺杀国王”的始作俑者之一、首席科学家伊利亚（Ilya Sutskever），再也没有现身。伊利亚是“深度学习教父”辛顿的大学生，OpenAI的灵魂人物。消逝前，他最后的事情，是率领名为“超级对齐”的平安团队。

GPT-4o宣布会之后，伊利亚突然更新推文，宣布从OpenAI去职。首席科学家的退出，加速了OpenAI的盘据。

伊利亚（左三）与奥特曼（左四）

3天后，另一位“超级对齐”的科学家简·雷克（Jan Leike），也宣布提桶跑路。简·雷克公然爆料称，两人与奥特曼等高层存在严重分歧，平安团队举步维艰。

OpenAI的文化正在“变质”，忽视平安主义而转向“闪亮的产物”。

陆续有手艺大牛选择脱离。

一位OpenAI员工对着媒体说道，“注重平安的员工已经对他失去了信心。信托正一点点溃逃，就像多米诺骨牌一张一张倒下一样[1]。”

众所周知，OpenAI是一家由理想主义情结捏合起来的机构。然而，对于若何实现这一理想，OpenAI内部却逐渐衍生出了两条差其余蹊径。伊利亚的脱离，意味着他所代表的理想主义，已经彻底败给了另一种理想主义。

科学家与狂想家

2005年的一个周日，多伦多大学教授辛顿的办公室门外，来了个不速之客。

来者是一位数学系的学生，操着一口东欧口音，神色似乎总是没精打彩。彼时，辛顿是少少数仍在研究深度学习的学者，并在多伦多大学组建了一个实验室。

这个学生说，他整个炎天都在快餐店兼职炸薯条，现在他更想来这个实验室事情。

辛顿设计考考这位急于展现自己的年轻人，给了他一份反向流传的论文。这篇论文写于上世纪80年月，是辛顿最着名的研究功效之一。几天后，这个学生回来了，问他，“你为什么不求导并接纳一个合理的函数优化器？”

辛顿倒吸了一口吻，“我花了5年时间才想到这一点。[2]”这个学生，就是伊利亚。

辛顿发现，伊利亚有种异常壮大的原始直觉，能靠“第六感”找到准确的手艺蹊径[2]。因此，辛顿将伊利亚视作*一个比自己更“天才”的学生[3]。

而且，辛顿很快发现，“手艺天才”只是伊利亚身上的一个特质。

与伊利亚耐久共事过的研究员谢尔盖·莱文（Sergey Levine）曾说道，他喜欢大的想法，而且从不恐惧信托。“不怕的人有许多，但他尤其不怕。[2]”

2010年，伊利亚在阅读了一篇论文之后，便勇敢宣称，深度学习将改变盘算机视觉——只需要有人来推动这项研究。在谁人深度学习等同于民科的时代，伊利亚这番谈话，显然是有些倒反天罡的。

然而，他只花了2年，就打了所有人的脸。

2012年，辛顿、伊利亚以及克里哲夫斯基三人打造的AlexNet，以高达84%的图像识别准确率，让天下看到了深度学习的潜力，并引发了产业界的狂热追逐。

那一年，谷歌花了4400万美元的天价，只为了将AlexNet的3位作者收入麾下。

谷歌事情时代，伊利亚又最先信托一件更远大的事情：逾越人类的超级智能，已经近在眼前。

一方面，是由于他发现深度学习的游戏规则变了。

此前，研究深度学习的只有一小撮人，资源左支右绌。2009年时，辛顿曾短暂地在微软做过一个深度学习项目，连一张价值1万美金的显卡都申请不下来，气得他一顿阴阳怪气，“微软显然是家资金欠缺的软件销售商。[2]”

然而，自AlexNet之后，无数伶俐头脑与热钱涌入，未来被加速了。

另一方面，早在学生时期，伊利亚就坚信Scaling laws。“第六感”告诉他，超级智能并没那么庞大，只需要更多的数据与算力。

而且，伊利亚又一次证实晰自己是对的。

2014年的NIPS学术集会上，伊利亚宣布了他最新的研究功效：Seq2Seq（序列到序列）模子。Transformer降生之前，它曾是谷歌机械翻译的灵魂。只需要足够的数据，Seq2Seq模子就能显示得很好。

伊利亚在路演中提到，一个弱模子永远不能能有好的显示。“真正的结论是，若是你有一个异常大的数据集和异常大的神经网络，那么乐成是有保证的。[4]”

科学家与狂想家这两张面貌，在伊利亚身上迸发了神奇的化学反映。

随着伊利亚对超级智能愈发笃信，他对平安问题的重视也与日俱增。没过多久，伊利亚便遇见了知己。

理想主义的天花板

2015年，伊利亚收到投资机构Y Combinator掌门人萨姆·奥特曼的约请，前往硅谷的美丽旅店介入一场隐秘聚会。然而，奥特曼并非这场隐秘聚会的主角。

马斯克突然现身，告诉现场所有人，他设计确立一间AI实验室。

促使马斯克这么做的导火索，是数周前的44岁生日派对。

那时，马斯克约请了谷歌CEO拉里·佩奇等一众密友，去度假村玩了3天。晚饭事后，马斯克与佩奇围绕AI睁开了猛烈争吵。马斯克以为AI会扑灭人类，而佩奇则不以为然，取笑他是个“物种主义者”，对硅基生命有私见[5]。

从那之后，马斯克就不怎么和佩奇语言了。

在隐秘聚会的现场，马斯克等人提到，很少有科学家会思量自己研究的耐久结果。若是任由谷歌这样的大型企业垄断AI手艺，很可能会在无意间造成伟大危险。

因此，他们提出了一种全新的形式：

确立一间不受任何人控制、非盈利的实验室。

他们同样会去追逐AGI（通用人工智能）的圣杯，但不以盈利为导向，且放弃大多数研究功效，转而面向社会公然（open source）。马斯克与奥特曼以为，若是所有人都能获得壮大的AI，那么“恶意AI”的威胁将大大降低。

“我能想到*的事情，就是让人类以更平安的方式构建真正的AI。”另一位组织者布罗克曼（Greg Brockman）说道[6]。

伊利亚被这个浪漫的想法感动了。他为此放弃了年薪200万美元的诱惑，毅然加入OpenAI。

确立的头15个月，OpenAI并没有设立详细的战略偏向。谷歌科学家达里奥·阿莫迪（Dario Amodei），那时曾造访过OpenAI，询问在研究什么，OpenAI的治理层竟一时答不上来，“我们现在的目的...是做点好事。[7]”

几个月后，阿莫迪跳槽去了OpenAI，一起做点好事。

2017年3月，奥特曼等向导层意识到该更专注了。然而，在设计AGI蹊径图的时刻，他们却发现了一个严重的问题：算力跟不上了。大模子所需要的算力，每隔3-4个月就会翻一倍；非盈利机构的形式，显然不足以支持。

那时，马斯克提出了一个提案：OpenAI并入特斯拉，由他完全掌管[8]。

然而，马斯克低估了奥特曼的野心。

奥特曼一直在寻找重大的科学突破，希望凭此打造出一家价值万亿美金的企业。已往，YC最为人熟知的投资案例，是Airbnb。随着奥特曼掌权之后，YC最先挤破脑壳寻找种种研究核聚变、人工智能、量子盘算的公司。

a16z首创人、风险投资家马克·安德森曾示意，“在奥特曼的向导下，YC的野心水平提高了10倍。[9]”

2018年2月，奥特曼将OpenAI治理层都笼络到了自己的阵营。马斯克往后脱离了团队，不再和奥特曼语言，并作废了对OpenAI的后续资助。

两个月后，奥特曼宣布了OpenAI的公司章程。在不起眼的角落，他对公司愿景的表述，做了些小小的修改，“我们预计需要调动大量资源来完成使命。”

至此，曾经谁人高度理想主义的OpenAI，逐渐踏入了另一条河流。

*次盘据

2019年2月，OpenAI对外宣告了GPT-2，却没有*时间对外开源。而厥后的GPT-3，更彻底走向了闭源，OpenAI酿成了CloseAI。

吸金超百亿后，这个赛道还有30倍增长空间

一个月后，OpenAI又改变了“非盈利”的性子，确立了一个营利部门，并接受了微软10亿美金的投资。

突然的180度大转向，使得OpenAI内部最先盘据成两个对立的派别：

以达里奥·阿莫迪、伊利亚为代表的平安主义，以为必须先确保AI不会威胁人类，再公然宣布产物；

而以奥特曼、布罗克曼为代表的加速主义，则希望加速AI的普及，从而让更多人使用AI造福天下。

从中可以看出，两个派其余行事方式完全相反：

平安主义主张先验证平安，再宣布；而加速主义主张先扩大市场，再凭证测试效果与反馈举行调整。

前些日子宣布的GPT-4o，就是典型的加速主义做派。宣布会之前，OpenAI匿名宣布了性能壮大的模子“im-also-a-good-gpt2-chatbot”，引起了开发者社区的普遍预测与讨论。

事后证实，这模子就是GPT-4o的前身；而奥特曼故弄玄虚的目的，正是想让吃瓜群众帮他做测试。

随着分歧加剧，2021年，平安主义者、曾想一起做点好事的达里奥·阿莫迪，引发了OpenAI的*次盘据。他以为，OpenAI正从“勇者”酿成“恶龙”，越来越商业化，忽视了平安主义。

于是，他率领着一批焦点员工出走，确立了另一家AI公司Anthropic。

阿莫迪将Anthropic定位成一家公益公司，这将使他们能够同时追求商业利润和社会责任。现在，Anthropic已成为OpenAI*的竞争对手。

达里奥·阿莫迪的去职，在OpenAI内部造成了伟大动荡，但奥特曼仍试着起劲维持两个派其余平衡。

直到ChatGPT的宣布。

一种理想主义的失败

ChatGPT是个暂且项目。

那时，OpenAI正全力开发GPT-4。然而，有听说称，阿莫迪的Anthropic正在开发谈天机械人。于是，奥特曼暂且指派员工，给现有的GPT-3.5也打造一个谈天界面。奥特曼将ChatGPT称为“低调的研究预览”，可以辅助OpenAI网络人类与AI交互的数据。

那时，OpenAI内部员工搞了个赌注池，猜1周内能获得若干用户，*胆的赌注是10万人[11]。

最终成就是100万。

2个月后，这个“低调的研究预览”，成为了历史上最快突破1亿用户的应用程序。

两个派其余平衡被彻底打破了。

一位内部员工对媒体说道，“ChatGPT降生后，OpenAI有了获取收入的明确途径。你不能再用‘理想主义的实验室’标榜自己了，现在就有主顾希望获得服务。[12]”

从学生时代最先，伊利亚就信托超级智能并不遥远。随着ChatGPT引刊行业追逐，他对平安的焦虑变重了，与其他加速主义治理层的矛盾也日趋严重。

有人以为他越来越神神叨叨，也有人以为他最先更像一位精神*了。

2022年OpenAI的节日派对上，伊利亚最先带着所有员工高喊，“feel the AGI（感受AGI）”。在其他许多差异场所，他也频频说过这句话——似乎超级智能已经近在咫尺。

去年宫斗之前，伊利亚曾告诉一位记者，ChatGPT可能是有意识的，天下需要熟悉到这项手艺真正的气力。

这位媒体同志不止见过伊利亚一次，对他的印象并不算好：每次碰头，他都市说许多极其疯狂的话[13]。

2023年7月，伊利亚启动了“超级对齐”项目，提议了对加速主义的最后反抗。

在AI语境中，对齐（Alignment）并非某种黑话，而是一个专业术语，指让前沿的AI系统与人类的意图、价值观对齐。然而，伊利亚以为，超级智能的智慧水平将远超人类，人类智慧已经不足以拿来当权衡的尺度。

他提到，昔时的AlphaGo是个典型的例子。

它与李世石第二盘棋的第37手，下在了一个所有人都没想到的位置。那时，连中国围棋国手芈昱廷都在解说台上惊呼，“这是什么鬼，没摆错吗？”事后看来，这手棋恰恰是奠基AlphaGo胜局的要害。

连AlphaGo都云云捉摸不透，更遑论即将到来的超级智能。

因此，伊利亚拉上同事简·雷克，确立了“超级对齐”团队。事情内容很简朴：在4年之内打造一个壮大的AI系统，让它取代身类智慧认真对齐事情，而OpenAI将为这个项目提供20%的算力。

只惋惜，奥特曼并没有给平安主义反抗的时机，没有兑现20%算力的答应。

去年年底，伊利亚射出的最后一颗子弹，也未能击中要害。当伊利亚未能乐成“刺杀国王”，他与OpenAI的下场就已经注定了。

尾声

GPT-4o宣布之后，奥特曼重申了修改后的公司愿景：

OpenAI使命的一部门，是将异常壮大的AI工具免费（或以优惠的价钱）提供应人们。他在博客中写道，“我们是一家企业，许多器械需要收费，这将有助于我们向数十亿人（希望云云）提供免费、精彩的AI服务。[15]”

2016年时，《纽约客》曾宣布了一篇关于奥特曼的特稿。

那时，奥特曼最主要的身份，照样YC的掌门人。现实采访时，《纽约客》记者在奥特曼身上感受到了一种侵略性。

“他正在硅谷内迅速确立起一种新的经济，这种经济似乎旨在取代原本的硅谷。[9]”

现在，随着OpenAI彻底告辞伊利亚时代，奥特曼将继续完成昔时未竟的野心。

参考资料

[1]“I lost trust”: Why the OpenAI team in charge of safeguarding humanity imploded，Vox

[2]Geoffrey Hinton | On working with Ilya, choosing problems, and the power of intuition，Sana

[3]深度学习革命，凯德·梅茨

[4]NIPS: Oral Session 4 - Ilya Sutskever，Microsoft Research

[5]Ego, Fear and Money: How the A.I. Fuse Was Lit，New York Times

[6]Inside OpenAI, Elon Musk's Wild Plan to Set Artificial Intelligence Free，Wired

[7]The messy, secretive reality behind OpenAI’s bid to save the world，MIT Technology Review

[8]The secret history of Elon Musk, Sam Altman, and OpenAI，Semafor

[9]Sam Altman’s Manifest Destiny，The New Yorker

[10]AI researchers debate the ethics of sharing potentially harmful programs，The Verge

[11]Inside the White-Hot Center of A.I. Doomerism，New York Times

[12]Inside the Chaos at OpenAI，The Atlantic

[13]Rogue superintelligence and merging with machines: Inside the mind of OpenAI’s chief scientist，MIT Technology Review

[14]OpenAI Wants to Harness AI. It Should Pause Instead，The Information

[15]GPT-4o，Sam Altman