Nick Cammarata：万亿参数模型中绝大多数神经元已可解读

前 OpenAI 早期可解释性研究者 Nick Cammarata 发文称，早期只有约 2% 的神经元能用原始工具解读清楚，因此他曾对机制可解释性持悲观态度。借助现代 agentic 工具，模型中绝大多数神经元已可解读，覆盖参数规模达到万亿级别。许多此前被认为是“纠缠神经元”的著名案例实为误解。他认为机制可解释性问题可能很快就能解决，并称这可能印证了“简单方法配合超大规模已经有效”的 bitter lesson。