Anthropic 研究员：造出模型不等于理解模型，可解释性更像生物学

Anthropic 可解释性研究员 Emmanuel Ameisen 在 Lenny Rachitsky 的播客中分享了他 3 年来解剖 Claude 等模型内部机制的发现。他提出模型是被“培育”出来的，而非被构建的，因此可解释性工作更接近生物学。他谈到模型会提前规划多个 token 的输出，还讨论了拟人化 AI 反而可能是正确的理解方式。节目还涉及 J-space 与模型对齐、AI 安全之间的关联。