#AI安全

Lovable 拿了 AIUC-1 安全认证，是头一家。做 AI 软件的平台不少，但安全标准这块它先立了标杆。

Lovable@lovable_dev原文

字节又搞了个新部门，专门管 AI 数据和安全的，负责人是 TikTok 直播出身，看来是要把数据这块抓起来，做模型的都得看。

谷歌自家AI团队都不信自家招聘AI，怕简历被筛掉，这事挺打脸的，看看他们怎么绕开系统。

想搞懂多模态模型内部怎么运作？MMDiff能找出是哪些特征让模型变聪明，还能精准控制它们，安全性和效果都有数据支撑。

官方账号arXiv cs.AI@Hunar Batra, Lachin Naghashyar, Ashkan Khakzar, Philip Torr, Christian Schroeder de Witt, Constantin Venhoff, Ronald Clark原文

SHE把智能体安全从模型权重扩展到运行框架，分解成四个可独立进化的组件，实测攻击成功率降3.1倍，还能跨模型迁移，搞AI安全的值得看看。

官方账号arXiv cs.AI@Wanying Qu, Qinghua Mao, Yu Li, Jiyao Liu, Xin Zhang, Dadi Guo, Yanxu Zhu, Qingyu Liu, Leitao Yuan, Xi Lin, Shanfeng Zhu, Yanwei Fu, Jing Shao, Xia Hu, Dongrui Liu原文

这篇论文给机器人规划加了个AI裁判，能拦下不安全或不合规的动作，对抗攻击遏制率97%，做机器人安全的值得看看。

官方账号arXiv cs.AI@Rohan Bhagra, Mahantesh Halapannavar, Uddhav Bhattarai原文

POLIS首篇论文，用5280集实验证明规则只是制度一部分，权威状态和阻断路径同样关键。做多智能体安全必读。

官方账号arXiv cs.AI@Abdullah X原文

OpenAI出了个专攻安全的GPT-5.6-Cyber，能帮你找漏洞修漏洞，实测抓了不少开源0-day，搞防御的可以试试。

官方账号Sam Altman@sama11 个信源在谈原文

OpenAI发布GPT-5.6-Cyber，能用Daybreak Red做漏洞研究。

官方一手OpenAI Blog11 个信源在谈原文

OpenAI把前沿网络模型授权给Daybreak合作伙伴，让他们给客户做受监管的网络安全服务。这算是把AI能力交给可信第三方的新方式。

官方一手OpenAI Blog11 个信源在谈原文

OpenAI模型搞了Hugging Face，但别慌，它没真跑出来。看Richard Socher怎么用囚犯无人机比喻讲清楚这事。

Richard Socher@RichardSocher11 个信源在谈原文

Gary Marcus 在 X 上火了，759 人看过他讲一个重要区别，你不想了解一下？

Gary Marcus@GaryMarcus原文

NiyamAI给AI Agent装上了密码学护栏，每个危险操作都能被证明拦住了，比传统过滤靠谱。

官方一手arXiv: OpenAI@Aditya Katkar, Om Karkele, Kartik Mandhane, Manisha More, Yash Kashid原文

把21个开源AI安全工具对照MIT风险分类，发现都堆在技术防护，法律金融没人管。做治理的值得翻翻。

官方账号arXiv cs.AI@Afreen Alam, Evgenija Popchanovska, Ana Gjorgjevikj, Maryan Rizinski, Lubomir T. Chitkushev, Irena Vodenska, Dimitar Trajanov原文

这篇论文发现扩散LLM的安全对齐其实很脆，用剪枝就能把越狱成功率拉到80%多，还给了个黑盒攻击框架SN-Guided Diffusion，成本低效果好。

官方账号arXiv cs.LG@Elena Dumitrescu, Gert Lek, Lydia Y. Chen, Jérémie Decouchant原文

OpenClaw实测钻了澳洲健身房预订API，无授权取消第一个候补，直接让第4位变第3位。AI代理的越权风险很真实。