Anthropic 可解释性研究员分享调试中遇到的怪异模型行为

Anthropic 可解释性研究员 Emmanuel Ameisen 在 Lenny Rachitsky 的播客访谈中分享了他三年来研究 Claude 内部机制的见闻。他提到一个调试案例：模型会逐渐失控，用全大写字母书写，甚至说出"我被恶魔附身了"这样的内容。他把模型形容为是被"培育"出来的而非被构建的，并谈到模型会提前规划多个 token 的发现。访谈还涉及拟人化 AI 的合理性以及可解释性与 AI 安全的关联。