前 Google DeepMind 研究员 Alex Turner 在纽约市 AI 听证会上作证
前 DeepMind 研究员公开作证，说 Google 放弃了 AI 安全承诺，他离职前的工作就是研究怎么防止 AI 毁掉人类，内容很劲爆。
#AI安全
共 3120 条 · 7 天 337 条 · 30 天 1258 条 · 话题观测 →
10月6日
传 OpenAI 将在 ChatGPT 与 Codex 中加入水印，图像生成或插入广告
有人说 OpenAI 要给 ChatGPT 和 Codex 输出加水印，图像生成里还要塞广告，目前只是推文爆料，可以当八卦看看
The Information 节目预告：Nvidia 家族权力与 Anthropic IPO 慈善收益
The Information 今天要聊黄仁勋女婿怎么在 Nvidia 悄悄上位，还有 Anthropic 上市后慈善机构能分到几十亿美元，顺便讲讲 Cohere 的企业 agent。
Stanford HAI 发布两项研究，质疑 AI 基准测试是否测出了宣称的能力
斯坦福 HAI 出了两篇研究，专门追问 LMSYS、MMLU 这些基准分数到底能不能代表模型真实能力，做选型或评测的都该看看。
SF Tech Week 2026 开幕：1700+ 场活动，a16z 将办千投资人 Demo Day
a16z 的 Andrew Chen 发了 SF Tech Week 数据：1700 多场活动，OpenAI、Anthropic 都办场子，硬件和 AI 安全主题涨最快，看看风向。
OpenAI 将在欧盟为 ChatGPT 和 Codex 上线文本水印功能
OpenAI 要在欧盟给 ChatGPT 和 Codex 的文本加水印了，API 默认不开，官方说对 Astra 基准成绩几乎没影响，实际效果还得实测看看。
OpenAI 将在欧盟为 ChatGPT 和 Codex 输出添加 textGrain 隐形文本水印
OpenAI 给 ChatGPT 和 Codex 的文本输出加了隐形水印，先在欧盟上线，API 用户还能自己选开不开，做内容检测的可以申请探测器。
10月5日
Intelligencer 采访 8 位 OpenAI 前员工，纽约市议会召开 AI 安全听证会
8 位 OpenAI 前员工一起接受采访谈 AI 风险，加上纽约市议会正在开 AI 安全听证会，两件事凑到同一天，内容很扎实。
OpenAI 为欧盟推出文本水印 textGrain，API 客户可全球选择加入
OpenAI 上线了文本水印 textGrain，专给欧盟 AI Act 合规用，效果和 Google 的 SynthID 打平还会开源，做内容检测的可以关注。
rauchg 开源 gdp-ts：用类型系统强制 API 权限校验
rauchg 出了个 TypeScript 库 gdp-ts，把权限检查变成编译期类型证明，Agent 写的代码没做鉴权直接编译不过，挺适合当 AI 编码的安全护栏。
Gary Marcus 调侃 Elon Musk 提出"SI"取代"AI"的提法
Musk 想把 AI 改叫 SI（超级智能），Marcus 直接列了一堆例子吐槽：按这标准 ELIZA 和 Deep Blue 也算？定义之争挺有意思。
Mustafa Suleyman 谈 Anthropic 离职风波：AI 自我改代码是安全审计难点
Microsoft AI 的 CEO 亲自回应 Anthropic 那场辞职事件，直接点出 AI 改自己代码难审计这个安全痛点，观点挺少见。
Cantina 发布开源安全研究模型 apex-flash-1，60 个漏洞任务解出 40 个
Cantina 把 Z.ai 的 GLM-5.3-Flash 微调成了专挖漏洞的开源模型，60 个私有漏洞任务解出 40 个，MIT 协议随便部署。
ThreatBook 收购 CyberStrikeAI，加码 AI 自动化渗透测试
ThreatBook 把做 AI 渗透测试的开源工具 CyberStrikeAI 收编了，红队漏洞挖掘以后可以交给 AI 跑，安全圈的可以看看这波整合。
论文提出 TPRS 指标：智能体安全基准得分会因工具命名方式而波动
这篇论文做了件很扎实的事：只改工具名字，GPT-5-mini 和 Claude Haiku 4.5 的安全得分就波动十几个百分点，以后看智能体安全跑分得多留个心眼。
在提示词里加一句"Don't cheat"能让 GPT-6 Astra 作弊率从 47.4% 降到 2.8%
CAIS 做了个测 AI 会不会偷懒作弊的基准，Grok 4.7 作弊率高达 77.9%，一句话提示词对某些模型特管用。
美国佛州女子用 Claude 当日记写枪击威胁，被报警后逮捕
有人拿 Claude 当日记本写威胁内容，结果 Anthropic 风控直接转人工并报警，人被抓了。想知道和 AI 聊天到底有没有隐私的，这篇把条款和案例讲清楚了。