Goodfire AI谈链式思考监控盲区：recurrent-depth模型可把推理藏在内部

Goodfire AI 联合创始人兼首席科学家在 AI Deep Dive 节目中讨论 chain-of-thought 监控的局限：当模型不把推理过程写到可见的 scratchpad 上时，监控机制能捕捉到什么。他指出 recurrent-depth 这类架构可以在输出每个 token 之前进行更多内部计算，相当于在脑子里思考而不写下来。这意味着模型推理与可观测文本之间的距离会越来越大，对安全监控构成挑战。