#安全评估

Dario Amodei 说要放慢前沿 AI 发展速度，第一步就是让第三方能永久访问系统来检查安全措施，这和之前说的不一样。

官方账号Demis Hassabis@demishassabis原文

Dario Amodei（Anthropic创始人）发了一篇重要文章，说AI行业应该慢下来，并承诺第一步就是让第三方能直接检查他们的系统安全。

Scott Wu@ScottWu46原文

Anthropic要给第三方安全专家开权限了，让他们能直接检查模型训练过程，确保安全，这和之前说的要放慢AI发展节奏有关。

官方账号Sam Altman@sama原文

FLY-EVAL++为飞行预测任务提供新评估标准，发现LLM在安全约束下存在显著差异，比单纯看准确率更重要。

这篇论文揭示了多轮越狱攻击的机制，提出了BLUEPRINT框架，能以最少查询次数实现高成功率攻击。

腾讯团队评估了DeepSeek Harness的安全性，发现它能抵抗部分间接注入攻击，但仍有改进空间。

做 LLM 智能体安全评估的团队终于有了自动化工具——VESTA 能生成上千个真实任务场景，直接测出模型执行中的安全漏洞。建议关注智能体安全的开发者点开看看，结果可能会让你重新审视现有模型的风险。

做AI安全评估或生物研究合规的团队，这个基准能帮你避开“拒绝率越高越安全”的误区——Grok 4.20的案例值得点开看看。

AI安全团队终于有了一个从理论到工具都落地的威胁建模框架——STRIDE-AI把NIST和OWASP的鸿沟填上了，做LLM应用安全评估的可以直接用它的Web工具跑一遍评估流程。

做AI安全评估的团队终于有了一个可量化的失败预测工具——新方法解决了评估集太小无法捕捉罕见失败模式的痛点，做模型部署前风险评估的开发者可以直接参考实验方法。