行业

Anthropic 上市当天,前研究员考克森在总部外抗议要求禁止 AI 递归自我改进

Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进

精选理由

Anthropic 上市同天,自家跑出来的研究员带人堵门口,要求禁止让 AI 训练 AI。有意思的是招股书里 Anthropic 也承认这事有风险。对 AI 安全和监管话题感兴趣的话,这篇能看到前沿公司内部人和外部抗议者的两重视角。

当地时间 11 月 19 日,Anthropic 股票首日上市交易,今年 9 月因担忧 AI 风险离职的前研究员雅各布·考克森与数十名抗议者聚集在其旧金山总部外,要求禁止递归自我改进,即让先进 AI 系统参与训练下一代 AI 的技术路线。OpenAI 前研究员丹尼尔·科科塔伊洛和 YouTube 博主罗布·迈尔斯到场演讲,Stop AI 组织成员随后封堵了办公楼入口。

正文

考克森在接受采访时表示买不买股票不重要,关键是必须阻止递归自我改进,并呼吁 Anthropic 游说政府、与其他企业合作推动全面禁令,因为到 2027 年全球只有少数几个地方能实现这一技术。AI 安全研究机构 METR 的独立报告发现 AI 正在帮助 Anthropic 加快研发进度,而 Anthropic 也在 IPO 招股说明书中承认让 AI 在缺乏监督的情况下完全自主设计下一代模型并不安全,正在考虑修改政策以确保前沿模型开发由人类掌控。

考克森和科科塔伊洛均提到私下经常听到 AI 研究人员表达对技术风险的担忧,考克森认为 Anthropic 现有的内部政策调整远不足以应对风险,企业本身就是问题的一部分。

原文 · IT之家

Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进

IT之家 11 月 20 日消息,据《商业内幕》报道,今年 9 月,Anthropic 前研究员雅各布 · 考克森 因担忧 AI 发展而离职 ,并在美国引发了对 AI 技术的广泛恐慌。时间来到当地时间 19 日,随着 Anthropic 股票首次上市交易,考克森再次呼吁公众关注 AI 安全问题。 这次,他在接受采访时强调:“ 他们买不买股票根本不重要。我们必须阻止递归自我改进 。” IT之家注:“递归自我改进”指 让先进 AI 系统参与训练下一代 AI ,从而推动 AI 能力不断提升。 当天,考克森与数十名抗议者聚集在 Anthropic 旧金山总部外,要求禁止有关技术。 抗议者举着标语、高喊口号,现场还有考克森、OpenAI 前研究员丹尼尔 · 科科塔伊洛和 YouTube 博主罗布 · 迈尔斯发表演讲,随后赶到的 Stop AI 组织成员则封堵了办公楼入口。 AI 安全研究机构 METR 近期发布的独立报告发现,AI 正帮助 Anthropic 加快研发进度。Anthropic 也在 IPO 招股说明书中承认, 让 AI 在缺乏监督的情况下完全自主设计下一代模型并不安全 ,目前正在考虑修改政策,确保前沿 AI 模型的开发仍由人类掌控。 考克森认为,仅靠这些措施还不够。他在演讲中呼吁 Anthropic 游说政府,并与其他企业合作, 推动全面禁止递归自我改进 。“到了这个地步,企业本身就是问题。2027 年,全球只有少数几个地方能够实现递归自我改进,而这里就是其中之一。” 考克森和科科塔伊洛都提到,私下里经常听到 AI 研究人员表达对技术风险的担忧。科科塔伊洛形容道:“这种事简直就是漫画里那些 疯狂科学家式的超级反派 才会干的。”

产业坐标与信源核验

本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Anthropic、OpenAI、AI安全、递归自我改进,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「IT之家」,经 AITOP 多维评分管线结构化提炼。

Anthropic 上市当天,前研究员考克森在总部外抗议要求禁止 AI 递归自我改进|AI热报