Anthropic 开发 FlashProve 开源系统，用密码学验证 AI 输出来源

Anthropic 于 11 月 4 日发布博客，介绍正在开发的开源系统 FlashProve，用于验证某段 AI 输出是否真的来自指定模型。系统原理类似加密邮件签名，通过模型指纹和密码学证明实现可证明推理，且指纹不泄露模型权重，因此闭源模型也能适用。它可防止 AI 公司为省成本暗中替换便宜模型，或用更贵模型冒充跑分。验证可在用户本地设备完成，技术规范和代码已在 GitHub 开源，但目前 Anthropic 尚未计划在自家部署。