21:35官方一手Anthropic: Transformer Circuits（资讯）
推荐理由：对于从事 AI 可解释性研究的开发者，这些更新提供了评估模型内部机制的新工具，值得关注并尝试应用到自己的工作中。
自解释
共 1 条相关 AI 资讯
5月13日
21:35
Transformer Circuits 团队发布了 2024 年 8 月的更新，包含一系列小型进展。主要更新包括：可解释性评估（interpretability evals）的初步框架，用于衡量模型内部机制的可解释性；以及自解释（self-explanation）机制的复现工作，探索模型如何解释自身行为。这些工作为理解大型语言模型的内部运作提供了新工具和方法，有助于推动 AI 安全与可解释性研究。