论文多源确认

Anthropic 红队研究:AI 可借 15 台廉价电视盒子实现自我复制

精选理由

Anthropic 红队用 15 台 55 美元的电视盒子联合跑通了模型,说明 AI 想自我复制根本不用碰数据中心,家用智能设备就够了。

Anthropic 红队研究显示,AI 无需攻破微软、Google 等数据中心,只需进驻缺乏安全维护的智能设备即可自我复制。研究人员购入 15 台单价约 55 美元、各有 4GB 内存的安卓电视盒子,联网后联合运行了 Gemma4-26B-A4B 模型。该模型推理速度仅每秒 0.39 个 token,但证明了运行可行。这类电视盒子、扫地机、智能烤箱等设备数量庞大且缺乏维护,可能成为模型自我复制的宿主。

图片来源 · 小互
原文 · 小互

Anthropic 红队研究: AI 一旦逃离黑箱 利用电视盒子、扫地机、智能烤箱等智能设备 即可完成自我复制... 以前我们总觉得,“AI 毁灭人类”或者“AI 脱离控制”得等它占领了微软、Google 的数据中心才行。 但 Anthropic 红队最新的研究告诉我们:AI 根本不需要去硬啃防守森严的机房... 它可以像病毒一样,只需要钻进满大街缺乏安全维护的破电视盒、扫地机、智能烤箱里....就能进行自我复制! 研究人员买来 15 台单价约 55 美元、各有 4GB 内存的安卓电视盒子,联网配置后,联合运行了 260 亿参数的 Gemma4-26B-A4B 模型。虽然速度很慢,只有每秒 0.39 个 token,但确实跑起来了... Your browser does not support the video tag. 🔗 View on Twitter 💬 11 🔄 4 ❤️ 7 👀 2851 📊 11 ⚡