可解释性是研究神经网络内部机制、把模型隐层计算翻译成人类可读解释的 AI 分支，被广泛视为实现 AI 对齐的关键路径。近期研究与讨论显示，这一领域正从零散的案例解析走向规模化与工程化，同时也在反思自身评估体系的可靠性。
可解释性近期进展
当前焦点与观察点
争议核心在于：被发现的特征与电路究竟真实反映了模型计算，还是研究者建构出的叙事。分析对象也在扩展——MM-DiT 上下文 token 的内部信息分析、让 LLM 用户信念可读可写的 Belief Self-Distillation，正把解释范围从纯语言模型推向多模态与个性化场景。后续值得观察的是 SAE 特征的跨规模稳定性、电路评估标准能否统一，以及内部操控技术的双刃剑属性：它既可用于模型纠偏，也可能成为隐蔽干预模型行为的通道。