OpenAI与Anthropic分家始末
OpenAI内部曾考虑将AGI技术卖给大国,安全团队因此集体出走,这解释了Anthropic的诞生。
OpenAI在2017年面临资金危机时,曾提出向中美俄等大国拍卖AGI技术的'国家计划'。时任研究副总裁的达里奥·阿莫代伊强烈反对这一方案,认为这会激化军备竞赛。2020年,CEO山姆·奥特曼曾计划向坎耶·韦斯特提供未公开的GPT-3测试版本,引发安全担忧。最终,阿莫代伊于2021年带领核心团队出走创办Anthropic。
OpenAI 和 Anthropic 分家始末
这篇由《纽约邮报》报道的幕后揭秘,揭开了一段关于理想、金钱与权力博弈的技术往事。
故事要退回到2017年前后。当时的OpenAI远没有今天的风光与底气,随着联合创始人埃隆·马斯克逐渐撤回资金支持,整个实验室瞬间陷入了粮草告急的生存危机。在寻找活路的紧迫关头,联合创始人格雷格·布罗克曼与伊利亚·苏茨克维提出了一个在后来被称为“国家计划”(countries plan)的设想。
最初,这个想法还带着乌托邦式的色彩——试图建立一个国际合作组织,让全球共享通用人工智能(AGI)的红利并共同分担风险。然而,在一次面向公司内部的陈述中,它迅速蜕变为了一个激进的融资方案:既然未来强大的人工智能技术迟早可能被各国掌控,不如干脆向美国、中国甚至俄罗斯等大国政府公开拍卖未来AGI技术的权益,谁出资多就卖给谁。
这个提议如同一颗重磅炸弹,直接震动了当时负责安全与研究的核心团队。时任OpenAI研究副总裁的达里奥·阿莫代伊(Dario Amodei)对此感到极度震惊与抗拒。在他看来,将具备颠覆性力量的技术交给极权统治者,无异于为严重的人权灾难递上武器,彻底背离了实验室成立的道德初衷。他在发给高管层的邮件中言辞激烈地抗议,直言这一方案会火上浇油般激化军备竞赛,摧毁OpenAI安身立命的道德合法性。
所幸这场“向大国拍卖AGI”的风波并未真正演变为现实,微软随后带着巨额资金入局,解了OpenAI的燃眉之急。不过针对这段传闻,OpenAI官方后来回应称,他们当年确实短暂探讨过将机构转为国际合作形式,但坚决否认曾考虑将AGI出售给中俄。
但信任的裂痕一旦产生,便很难完全抚平。到了2020年,另一场插曲再度加剧了阿莫代伊的不安。首席执行官山姆·奥特曼私下会见了知名说唱歌手坎耶·韦斯特(Kanye West),并提出向他提供尚未公开发布的GPT-3测试版本。由于韦斯特当时行为举止愈发怪异,时任政策总监杰克·克拉克极力阻拦,才算把这一决定按了下来。
接连发生的戏剧性事件,加上在与微软谈判期间有关安全条款的分歧,让阿莫代伊对管理层的动机产生了深切的质疑。他愈发觉得团队在商业扩张的狂飙中,正一步步偏离安全与道德的锚点。
最终,理念的分道扬镳促成了AI行业最大的一次分裂。2021年,阿莫代伊带着妹妹丹妮拉·阿莫代伊、杰克·克拉克以及数位核心研究骨干悄然出走,创办了如今以安全为核心竞争力的AI初创公司Anthropic。昔日同舟共济的探索者,由此在日趋白热化的智能竞赛中各奔东西,各自书写起截然不同的技术叙事。