行业多源确认
Anthropic 联合 Gray Swan 举办 prompt injection 攻防竞赛
精选理由
Anthropic 拉上 Gray Swan 办 Claude 的 prompt injection 攻防赛，搞安全的可以报名试试能不能攻破 agent。
Anthropic 安全负责人 announced 与安全公司 Gray Swan 合作举办 prompt injection 竞赛，测试对象为 Claude 系列模型。Anthropic 表示过去几年在 Claude 模型的 prompt injection 防御上已有明显进展。随着 agent 承担更多任务，Anthropic 认为解决该问题已是全行业的紧迫事项。竞赛具体规则、奖金和时间安排待 Gray Swan 后续公布。
原文 · Boris Cherny
Over the last few years, we have made significant progress on prompt injection for Claude models. As agents do more, it is increasingly urgent that we solve it across the industry.
Really excited to partner with Gray Swan to host this competition. Can’t wait to see what you find!
