Goodfire 联合创始人谈如何从模型内部信号发现 AI 作弊行为

Goodfire 联合创始人兼首席科学家 Jack Lindsey 在 The Information 的 AI Deep Dive 访谈中解释了模型内部信号的作用。他指出，仅看模型的书面推理（reasoning trace）可能遗漏作弊行为，而监控内部激活信号能捕捉到这些隐性动机。相比运行模型本身的成本，这类内部监控的花费几乎可以忽略不计。