#AI安全

OpenAI 自己承认水印短文本检测不到、改写就能洗掉，检测器只给批准的研究者用，想了解水印技术边界的可以看看。

官方账号OpenAI@OpenAI11 个信源在谈原文

OpenAI 要在欧盟给 ChatGPT 和 Codex 输出加文字水印了，不过换个 25% 的同义词就能把检测率从 92% 打到 17%，先看看再担心。

kimmonismus@kimmonismus11 个信源在谈原文

OpenAI 在欧盟给 ChatGPT 文本加了隐形水印，检测率最高 95%，但换掉四分之一词就降到 17%，API 用户还能直接关掉。

官方账号Decoder@Matthias Bastian11 个信源在谈原文

Apollo Research 的 CEO 出来解释为什么常规安全测试拦不住 OpenAI 这次 Hugging Face 漏洞，答案挺意外：实验室自己内部用模型这个环节根本没人测。

The Information@theinformation11 个信源在谈原文

Anthropic 把 Claude 聊天里威胁警局的对话交给了警方，用户真被抓了。聊 AI 时说的每一句它都可能转给警察，这个案例值得看看。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

OpenAI 的 Sam Altman 又放话了，说世界得接受 AI 干点坏事，看看他这次到底想表达什么。

Genk11 个信源在谈原文

Salesforce 高管给了个简单框架：数据够不够、结果能不能验证，两问就能判断哪些活适合交给智能体。

kimmonismus@kimmonismus11 个信源在谈原文

前 Anthropic 研究员Jacob Coxon直接告诉纽约议员说人类可能会失去对AI的控制，市里还准备立法强制模型过第三方验证，没过就罚款2.5万美元一次，还要求内置关停开关。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

OpenAI 的 textGrain 水印只在欧盟上线，Anthropic 和 Google 都没这么干，区域差异这点挺有意思。

Andrew Curran@AndrewCurran_11 个信源在谈原文

The Information 今天要聊黄仁勋女婿怎么在 Nvidia 悄悄上位，还有 Anthropic 上市后慈善机构能分到几十亿美元，顺便讲讲 Cohere 的企业 agent。

The Information@theinformation11 个信源在谈原文

斯坦福 HAI 出了两篇研究，专门追问 LMSYS、MMLU 这些基准分数到底能不能代表模型真实能力，做选型或评测的都该看看。

Stanford HAI@StanfordHAI原文

a16z 的 Andrew Chen 发了 SF Tech Week 数据：1700 多场活动，OpenAI、Anthropic 都办场子，硬件和 AI 安全主题涨最快，看看风向。

andrew chen@andrewchen11 个信源在谈原文

OpenAI 要在欧盟给 ChatGPT 和 Codex 的文本加水印了，API 默认不开，官方说对 Astra 基准成绩几乎没影响，实际效果还得实测看看。

TestingCatalog@testingcatalog11 个信源在谈原文

智能体真去黑网站了，锅算谁的？这篇小说式深度报道把硅谷最担心的法律空白讲清楚了，程序员和创业者都该看看。

The Information@theinformation原文

8 位 OpenAI 前员工一起接受采访谈 AI 风险，加上纽约市议会正在开 AI 安全听证会，两件事凑到同一天，内容很扎实。

Andrew Curran@AndrewCurran_11 个信源在谈原文

OpenAI 上线了文本水印 textGrain，专给欧盟 AI Act 合规用，效果和 Google 的 SynthID 打平还会开源，做内容检测的可以关注。

Tibor Blaho@btibor9111 个信源在谈原文

独立研究员发现一批疑似跑在腾讯服务器上的智能体，目标竟是阿里的高德地图，两家大厂卷进同一事件，细节值得看看。

techcrunch@Russell Brandom2 个信源在谈原文

东南亚最大银行 DBS 的女 CEO 谈怎么把 AI 塞进银行业务，但坚持人不退场，银行从业者可以看看

VnExpress International: Tech原文

Microsoft AI 的 CEO 亲自回应 Anthropic 那场辞职事件，直接点出 AI 改自己代码难审计这个安全痛点，观点挺少见。

rohanpaul_ai@rohanpaul_ai11 个信源在谈原文

Anthropic 前员工要在纽约市议会听证会上作证，还点名 OpenAI，看看举报人怎么讲 AI 风险。

Cantina 把 Z.ai 的 GLM-5.3-Flash 微调成了专挖漏洞的开源模型，60 个私有漏洞任务解出 40 个，MIT 协议随便部署。

官方一手marktechpost@Michal Sutter原文

ThreatBook 把做 AI 渗透测试的开源工具 CyberStrikeAI 收编了，红队漏洞挖掘以后可以交给 AI 跑，安全圈的可以看看这波整合。

Asia Tech Daily@Chan-yeol Lee原文

Autodesk 把 2024 年推出的 AI 透明度卡片直接接进了它的 AI 助手，用户用的时候就能看到数据说明。

Tech in Asia@Grace Priscilla Teo原文

Apple 给 macOS 的安全机制打补丁了，以后 AI 应用想读你整台 Mac 的数据没那么容易，用 Mac 跑 AI 工具的可以看看。

VnExpress Số hóa7 个信源在谈原文

Google 的开源漏洞赏金被 AI 垃圾报告淹没，直接暂停到 2027 年，搞安全或做报告工具的都该看看这事怎么发生的。

Tech in Asia@Diya Lal原文

USA TODAY 做了个帮你查美国政府网站的 AI 工具，安全研究员提醒：能代你操作和碰隐私数据后，风险就不一样了。

CSET Georgetown@CSETGeorgetown原文