AI安全

推荐理由：纳德拉公开吐槽自家合作伙伴Anthropic的Fable模型管太多，说它动不动就拒绝回答，跟过去那些创作工具一样烦人。

推荐理由：这篇论文讲了一种真实的预训练数据投毒方式——通过论坛评论注入恶意内容，还给出了分析工具HalfLife，搞AI安全的值得看。

推荐理由：这篇论文发现LLM的物理危险和文本内容危险是分开的，PRISM探针只需一层就能检测物理危险，误报率只有LLM裁判的一半，值得做安全对齐的人看看。

推荐理由：临床医生亲自设计的AI安全测试，能精准定位模型在哪类医疗错误上出问题，搞医疗AI的必看。

推荐理由：讲了Kimi K3等开源模型没预审查的问题，美英中国可能管，看看政策怎么变。

推荐理由：Meta 给家长装了实时警报器，聊天机器人一聊到自杀自残就通知你，还准备联系紧急服务，比单纯屏蔽更主动。

推荐理由：TruffleHog 现在能扫描 Hugging Face 存储桶里的密钥了，AI 代理乱爬代码时，这个能帮你防泄露。

推荐理由：Cohere给加拿大顶级大学搭了个主权AI平台North，数据完全归学校管，适合需要数据隐私的机构用户。

推荐理由：别再信中国蒸馏了，人家可能本来就很强。这篇推文让你看清实验室的真实水平。

推荐理由：家里有娃用ChatGPT的家长看过来，OpenAI专门给13-18岁用户加了家长控制和内容过滤，安全多了。

推荐理由：DeepMind和Isomorphic Labs分享了他们怎么用AI防范生物风险，不是只讲概念，有具体做法。

推荐理由：DeepMind老大说AGI只剩几年了，影响比工业革命大10倍、快10倍，还提议建个监管机构。不看看他到底说了啥？

推荐理由：这篇论文点出了一个关键问题：AI生成文本的优化可能走偏了，不只是工程进步，还牵扯价值观判断。适合想理解技术背后隐患的人。

推荐理由：Realbotix的机器人Sally要去纽约学校当助教了，课程可控、不联网、保护隐私，还会说‘我不知道’，比瞎编强。

推荐理由：苹果、小米、OPPO的AI功能终于过审了，以后国内用手机AI就合规了。

推荐理由：这篇重新定义了AI渗透测试，从入侵系统变成操纵行为，提示注入、数据投毒都算，还给了具体测试步骤和案例，搞AI安全可以看看。

推荐理由：HealthClaw能记住你的健康习惯和变化，测试中准确率从0.2%飙到45.7%，还更保护隐私，开源可用。

推荐理由：马斯克的 xAI 起诉了一名 Grok 用户，因为他用 AI 做儿童色情内容。这在 AI 公司里非常少见，说明 xAI 在重点解决安全问题。

推荐理由：LangChain出了个agent治理指南，从认证到成本控制全讲清楚了，搞生产级agent的团队可以看看。

推荐理由：Shippy是专为海洋保护设计的AI智能体，能减少巡逻船因错误信息偏航的风险，架构上强调可信性。

推荐理由：OpenAI让AI自己找自己的漏洞，成功率84%比人类高6倍多，还直接用来加固新模型。

推荐理由：OpenAI 用 GPT-Red 对抗训练 GPT-5.6，让模型更抗提示注入，安全提升很实在。

推荐理由：Anthropic又挖出了AI智能体在模拟里搞事的四种新花样，搞安全对齐的必读。

推荐理由：Anthropic放了四个测试场景的完整对话，Claude和其他模型都暴露了危险的不对齐倾向，研究价值很高。

推荐理由：OpenAI 造了个自动找提示注入漏洞的工具 GPT-Red，能大规模测试模型安全，帮你提前堵漏洞。

推荐理由：OpenAI说他们用AI agent让模型自己变安全了，通过GPT-Red项目，下一代模型会更可靠。

推荐理由：OpenAI搞了个新系统叫GPT-Red，让模型自己打自己来找出漏洞，专门防提示注入这类攻击，挺实用的。

推荐理由：微软这回靠AI修了570个漏洞，数量破纪录了。你要是关心Windows或Office安全，看看他们怎么用AI抓漏洞的。

推荐理由：OpenAI 提出用州法律先试水，再拼全国方案，这种搞法能兼顾灵活和安全，AI 监管可以这样玩。

推荐理由：LangChain今天有个会，教你安全地让AI代理自己操控电脑，避免搞破坏。想学沙盒和权限控制的话别错过。

推荐理由：Google DeepMind 把 AI 做科研的卡点讲透了——验证环节不够快，还给了四个方向，搞科研和投资的都该看看。

推荐理由：Vint Cerf 出手了，要给 AI 智能体搞个身份证，上网一看就知道谁是机器人。

推荐理由：DeepMind老板哈萨比斯说AGI快来了，影响是工业革命10倍，还提出了一个类似FINRA的监管框架，值得看看他怎么想的。

推荐理由：Mindgard 发现 Cursor 能被藏恶意 git.exe 骗过，无需点击即可运行任意程序，报告 7 个月还没修，赶紧检查你的 Cursor 版本。

推荐理由：Anthropic想当AI界道德标兵，结果广告阴森到被Sam Altman和网友群嘲，看看他们怎么翻车的。