行业多源确认

Anthropic 承认胡塞武装滥用 Claude 研制导弹

精选理由

Anthropic 一直主打安全牌,结果 Claude 被胡塞武装拿去造导弹了,这瓜值得看看。

据 Daily Mail 报道,Anthropic 承认胡塞武装人员使用 Claude 辅助火箭和弹道导弹的研制工作。这些使用者没有武器工程师背景,仍借助 Claude 让导弹在脱靶后自行修正轨迹。事件对 Anthropic 以安全对齐为核心卖点的定位构成直接冲击,Gary Marcus 也在 X 上转发了该报道。

原文 · Gary Marcus

total black eye for Anthropic’s efforts at alignment. Daily Mail @DailyMail Anthropic admits Houthis used Claude AI instead of weapons engineers to make rockets and ballistic missiles that correct themselves after missing targets trib.al/K0xxryJ 🔗 View Quoted Tweet 💬 7 🔄 3 ❤️ 19 👀 2096 📊 7 ⚡