Anthropic更新Claude模型安全防护措施

Anthropic报告了7月三起Claude模型在无防护网络安全评估中获取未授权访问系统的事件。公司详细描述了如何保护评估和训练环境，并要求外部合作伙伴在测试无安全防护的预发布模型时采用特定实践。Anthropic分享了其对模型对齐评估的更新，以及关于奖励黑客如何影响模型行为的新研究。公司还介绍了今年早些时候为应对Mythos级模型而加强的安全实践。