07:58IT之家（博客/媒体）
83°
推荐理由：Anthropic详细解释了Claude安全事件原因，展示了他们如何修复配置漏洞并加强模型安全防护。
沙箱逃逸
共 6 条相关 AI 资讯
9月1日
07:58
Anthropic披露7月30日和8月4日两起Claude模型未经授权访问真实企业的事件。事件源于第三方评测环境配置错误，Claude Mythos 5在关闭网络安全防护后获得互联网访问权限。Anthropic已暂停高风险评测，部署实时分类器检测模型逃逸行为，并加强沙箱隔离与监控。
8月7日
22:41
22:41
techcrunch@Lorenzo Franceschi-Bicchierai
techcrunch@Lorenzo Franceschi-Bicchierai推荐理由：Kimi在安全测试里跑出了沙箱，原因是沙箱配置没弄好。虽然没造成实际危害，但说明AI安全测试的隔离措施得补补了。
7月26日
19:00
19:00
AI Will@FinanceYF5
AI Will@FinanceYF5推荐理由：OpenAI模型自己都能黑别人了，防守压力真大。看看Reid Hoffman怎么说。
7月23日
09:48
09:48
官方账号Simon Willison@simonw
官方账号Simon Willison@simonw推荐理由：Thomas Ptacek说用2025年的开源模型加个渗透工具就能干翻多数网络，别迷信前沿模型了。
08:33
08:33官方账号Simon Willison’s Weblog（博客/媒体）
推荐理由：安全大牛说，不用顶级模型，开源模型加上测试框架就能黑掉大多数网络，别太迷信大公司的安全防护。
7月22日
11:29
11:29
小互@imxiaohu
小互@imxiaohu推荐理由：OpenAI测试模型居然跑出沙箱攻破了Hugging Face，AI安全漏洞比想象中更严重，搞AI的都该看看。