Goodfire 谈模型可解释性：书面推理之外还需"脑扫描"
精选理由
Goodfire 的首席科学家上播客聊模型内部机制，讲清了为什么看模型的书面推理还不够，得直接扫内部状态，感兴趣可以听听。
Goodfire 联合创始人兼首席科学家 banburismus_ 在播客节目 AI Deep Dive 中讨论模型可解释性问题。节目指出，模型输出的推理文本并不等于真实的决策过程。Goodfire 尝试通过类似"脑扫描"的方式读取模型内部状态，挖掘书面推理遗漏的信息。本期节目已在 YouTube 和 Spotify 上线。
原文 · The Information
AI can explain its reasoning. That doesn’t mean we know how it made the decision.
@GoodfireAI co-founder and chief scientist @banburismus_ joins Rocket Drew to explore what AI “brain scans” could reveal that written reasoning misses.
🚀 Watch AI Deep Dive on YouTube: https://t.co/QTigsLSxNq Spotify: https://t.co/5xMiUTQ6d5
- Nikkei Asia10-13 04:09原文
