Anthropic 可解释性研究员 Emmanuel Ameisen 谈 Claude 内部机制研究

Emmanuel Ameisen 在 Anthropic 做了 3 年可解释性研究，专门分析 Claude 等 LLM 的内部运作。他提出模型是"长"出来的而不是搭建出来的，并发现模型会提前规划多个 token 的输出。访谈还涉及拟人化 AI 为何可能是合理方法、"J-space"如何揭示模型思考方式，以及可解释性与 AI 对齐安全之间的关联。