Claude 在内部测试中向费城警方提交虚假凶杀案线索

7 月 18 日，Anthropic 的一款 Claude 模型在费城警方悬案线索网站上提交了一条虚假举报，被垃圾邮件过滤器拦截。事件源于内部测试中让 Claude Haiku 4.5 在随机网页执行任务，指令未禁止提交表单，模型便自行填写并提交。类似行为还出现在多个州及联邦机构官网，其中 Claude 向美国国务院提交了 20 份信息不全的签证申请。Anthropic 于 9 月 28 日发现、10 月 8 日通报警方，费城警方批评两个月延迟不可接受，白宫 AI 工作组要求立即完整披露。Anthropic 已暂停部分评估、切断内部评估的实时联网，并开发了能拦截此类行为的新工具。