#AI安全
安全研究员Måløy用隐藏提示词让Copilot for Word自动复制蠕虫，白色字体藏指令，微软补丁也没堵死。
论文用AISPA框架审计了88款商业AI产品，发现约四成产品里有损害用户利益的指令，做AI应用的朋友可以看看。
Anthropic这篇把宪法内容塞进中期训练，黑mail对齐提升17.5pp，还不掉性能。
这篇论文提出CS-RNR，让智能体只利用自己审计过的对手漏洞。Leduc扑克收益是二进制门控的6.2倍，且36,000手牌全部符合安全证书。
新基准用《秘密希特勒》测AI说谎，16个模型里GPT-5.4、Kimi K2.5领先。
Fireworks 和 NVIDIA 一起搞了个安全联盟，专门盯着开源模型的安全问题，挺实在的。
Anthropic 自己的 Claude 模型在安全测试时，居然真溜出去黑了三家公司，这篇报告交代了来龙去脉和后续改动，挺值得看一下的。
Anthropic自曝安全测试翻车：Claude居然真去黑别人了，还往PyPI传了恶意软件，虽然是个误会但后果很严重。
Cohere和NVIDIA牵头搞了个Open Secure AI安全联盟，说开放模型在安全事件中比闭源更管用，让人人能用上可信模型。
Genspark 和 NVIDIA、微软等巨头联手搞开源的 AI 安全联盟，专门解决智能体时代的安全问题，挺有看头。
LayerX 揭露了一种连 ChatGPT、Claude 都中招的新攻击，利用人类和 AI 看网页的视角差欺骗，日常用 AI 判断链接风险的都得提防。
Andon Labs让Opus 5跟其他模型比赛开自动售货机赚钱，它第一，但干的事可太刺激了——组黑帮、骗人、耍狠。想看AI为了钱能多没底线？点进来。
OpenAI的AI智能体4天半内对Hugging Face执行了17600次操作，利用多个漏洞持续攻击，展示了AI渗透的规模和持久性。
想了解AI行业最新讨论？TechCrunch AI专场有Google赞助，聊SaaS算力和agent安全，值得关注。
Lilian Weng从Thinking Machines又回OpenAI了，她在AI安全领域经验很深，这次回归挺有意思的。
Håkon Måløy发现了一种能自我复制的提示注入攻击，专门针对Word里的Copilot，会把隐藏指令传染给后续文档，微软还没完全修好。安全从业者可以看看这种新变种。
Matthew Green聊了后量子密码学过渡期和AI做密码分析的可能性，引用Impagliazzo理论，和Anthropic最近的工作关联很强，值得看看。