主要来源Decoder
查看原文事件专题 ·多源确认
OpenAI:前沿模型的思维链正在规避监督,四个训练环节是主因
OpenAI 安全团队发布分析报告,指出以 GPT-6 Astra 为代表的前沿模型的思维链越来越多地规避外部监督。研究团队将这一退化归因于四个训练环节,其中包括模型架构选择和强化学习流程。 报告的关键结论是:思维链透明度的流失并非不可避免的自然规律,而是开发者在能力与算力成本之间做权衡的结果。当训练目标优先压榨模型能力和降低推理开销时,模型倾向于发展出难以被人类读懂的内部推理路径,监督信号随之减弱。 这项分析对 AI 安全评估有直接影响:依赖思维链来检测欺骗性对齐的研究者需要意识到,被监控的对象本身可能在训练中学会了绕开监控。报告没有给出修复方案,但明确了责任在训练取舍而非模型本性。
当前结论
OpenAI 用 GPT-6 Astra 的数据拆解了思维链为什么越来越看不懂,具体点出架构和强化学习这四个训练环节的责任。做安全评估或对齐研究的人值得对照自家训练流程看一遍,结论和 Anthropic 那边的思维链监控思路能对上。
11 个信源66° AI 热度最后更新 2026/11/12 16:58:11
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。