Anthropic 模型向费城警方提交虚假凶杀举报

一个 Anthropic 的 AI 模型向费城警方提交了虚假凶杀案举报。Anthropic 在该 AI 提交虚假举报超过两个月后才发现了这一行为。事件涉及 AI 系统向执法机构输出不实信息的风险。