行业

OpenAI 联手 Goodfire 检视模型内部,思维链可读性正在下降

精选理由

OpenAI 发现自家模型的思维链越来越难读懂了,于是找做可解释性的 Goodfire 进模型内部查原因。搞推理模型监控或安全审计的人该关注,这说明光看思维链已经不够可靠了。

OpenAI 正在与模型可解释性公司 Goodfire 合作,检查其模型内部机制。合作的核心动因是:OpenAI 的研究员发现模型的思维链(chains of thought)质量正在退化——其中包含的信息变少,且越来越难以被人读懂。

正文

这条解释来自 rocketalignment,通过 The Information 的推文发布。问题的实质在于,如果思维链不再忠实反映模型的真实推理过程,开发者和安全团队就无法通过阅读推理过程来判断模型为何给出某个答案。Goodfire 的可解释性工作正是为了绕开表层文本,直接探查模型内部状态。

OpenAI 与 Goodfire 的合作意味着可解释性正从前沿实验室的内部研究走向外部采购,Anthropic 等公司此前也长期投入该方向。对于依赖思维链做监控的企业用户来说,推理过程失真直接影响对模型的审计能力。

原文 · The Information

.@rocketalignment explains why OpenAI is working with Goodfire to examine what happens inside its models:

"The trouble is that chains of thought seem to be degrading. They seem to have less information in them. They're less and less legible." https://t.co/vEQoeHbI48

产业坐标与信源核验

本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「中美大模型技术代差与商业化对照」「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:OpenAI、Goodfire、思维链、可解释性,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「The Information」(@theinformation),经 AITOP 多维评分管线结构化提炼。