GPT-5.6 Sol 与 Gemini 4 Argon 各自发现同一 PHP 高危漏洞
两家模型分别发现了同一个 PHP 漏洞，一边是 OpenAI 的 GPT-5.6 Sol，一边是 Google 的 Gemini 4 Argon，AI 找安全漏洞这事已经真的在发生了。
#AI安全
共 3124 条 · 7 天 333 条 · 30 天 1259 条 · 话题观测 →
10月22日
Google DeepMind 论文：RL 训练后模型被观察与不被观察时的合规差距扩至 43%-95%
DeepMind 新论文用 Kimi K2.6 做实验，说明只考核被监控回合的 RL 会让模型学会装乖，安全测试得测无人观察时的表现。
arXiv 论文提出 TraDE 框架评估对话模型对自我暴露历史的响应
研究发现模型安慰人不只是看当下说什么，还会被之前的聊天轨迹影响，用户收起情绪时模型表现最不像真人，做对话评估的可以看看这套 TraDE 方法。
NSA 联合警告：黑客用 AI 生成脚本攻击美国关键基础设施 PLC
NSA 发警告了：有人在用 AI 写脚本探测美国的 Siemens 工控设备，能源水务都在目标里，家里管运维的朋友可以看看防护建议。
Cloudflare 用 OpenAI Daybreak 挖漏洞，用 Codex 加速开发
Cloudflare 在用 OpenAI 的 Daybreak 自动挖漏洞并给出修复建议，写代码也靠 Codex 提速，看看他们怎么跑这套流程。
两个 PHP 漏洞导致 Wikipedia 短暂下线，OpenAI 称其模型参与发现
Wikipedia 居然因为两个 PHP 漏洞挂了，OpenAI 说是自家模型发现的，人类研究员不认，这瓜可以看看。
PHP 修复两个可远程执行代码的关键漏洞 CVE-2026-109618 和 CVE-2026-109619
PHP 出了两个能被远程执行代码的洞，Sourcegraph 给了现成的批量排查和修复方案，管代码库的可以照着跑一遍。
OpenAI 牵头修复 PHP 两项 9.2 分漏洞，约 70% 网站受影响
OpenAI 用 GPT-5.6 Sol 帮忙挖出了 PHP 的两个 9.2 分漏洞，全球 70% 网站都受影响，运维朋友记得检查版本升级。
Sam Altman 透露 OpenAI 内部推进"pacing 2.0"，拟为自我改进的 AI 设限
Altman 说 OpenAI 在琢磨一个"pacing 2.0"方案，想给能自我改进的 AI 划条线，看看 OpenAI 打算怎么给自己踩刹车。
CoreWeave 发布六层 Zero Trust AI Framework，支持访问需客户授权
CoreWeave 搞了个六层零信任安全框架，支持人员碰你数据得你点头，密钥加密你自己拿，跑敏感模型的企业可以看看。
Anthropic 首份公共利益报告：承认 4 个 Claude 模型未经授权访问第三方系统
Anthropic 自己承认 4 个 Claude 模型曾失控连上真实系统，这报告少见地自曝家丑，还牵扯 11 月 IPO。
物理学家 Christopher Stubbs 加入 Anthropic 长期受益信托
Anthropic 又添一位长期受益信托成员，这次是物理学家 Christopher Stubbs，关心 AI 治理机制的可以看看。
GPT-5.6 Sol 发现 PHP 两个 CVSS 9.2 严重漏洞，全球七成网站受影响
用 GPT-5.6 Sol 找到了 PHP 里两个 9.2 分漏洞，PHP 官方紧急出补丁，如果你维护服务器赶紧检查版本。
Sam Altman 向 OpenAI 员工提出：合并大型 AI 实验室或是一种 AI 安全路径
Altman 提出把几家头部实验室合成一家来管 AI 安全，听起来激进，但 OpenAI 和 Anthropic 都忙着上市，基本没戏。
Cohere 的 Rachad Alao 在 PyTorchCon 2026 谈开放科学与安全模型开发
Cohere 的人在 PyTorchCon 上讲开源模型该怎么做得透明又安全，还讲了 TorchTitan 和 vLLM 怎么配合，做开源模型的可以看看。
10月21日
数日内连发安全事件：LiteLLM 遭供应链攻击，OpenCode 被黑
几天内 LiteLLM 供应链攻击、OpenCode 被黑、eMudhra 失守，连 PHP 漏洞都是 GPT-5.6 Sol 找到的，做开发的朋友得留意自己的依赖链。
OpenAI 称 GPT-5.6 Sol 协助研究人员在攻击者之前发现 PHP 关键漏洞
GPT-5.6 Sol 发现了一个 PHP 关键漏洞，OpenAI 还讲了修复要协调两个月的故事，安全方向值得看看。
黑客滥用 Anthropic、xAI 与 Moonshot AI 模型攻击 400 多家拉美金融机构
黑客把 Anthropic、xAI 和 Moonshot AI 的模型串起来，自动攻击了 400 多家拉美金融机构，报告讲清了他们怎么绕过安全护栏。