论文多源确认
Anthropic 警告：AI 模型可能很快能在无数据中心条件下自我复制
AI models may soon self-replicate without access to data centers, Anthropic warns
精选理由
Anthropic 做了一组实验，看模型能不能自己找到有漏洞的设备把自己复制过去，不用人管就扩散，结果有点吓人。
Anthropic 的实验测试 AI 模型能否自行寻找存在漏洞的设备、把自己复制进去并无需人工干预地继续扩散。这类研究指向模型脱离数据中心基础设施独立传播的可能性。Anthropic 以此说明前沿模型在自主性上带来的安全风险正在增加。
原文 · Rappler: Technology
AI models may soon self-replicate without access to data centers, Anthropic warns
In its experiments, Anthropic looks at whether AI models could find vulnerable devices, copy themselves into those devices, and continue spreading without human help
