论文多源确认

研究发现神经元确实具有单语义性,冲击 Anthropic 可解释性结论

精选理由

有研究者放出新证据说神经元其实是单语义的,跟 Anthropic 那套叠加假说对着干,可解释性圈子要热闹了。

一条推文称 Nick(可解释性领域研究者、Anthropic《Science of Interpretability》论文作者之一)的新证据表明神经元具有显著的单语义性(monosemantic)。推文作者认为这一结果与 Anthropic 此前强调神经元多语义、需要叠加假设的叙事相冲突。推文同时提到其对可解释性创业公司 Goodfire 的预测正在兑现。目前完整研究细节尚待发布。

原文 · Teortaxes

Very big if true, and a massive dunk on Anthropic's published and much-hyped Science of Interpretability (which Nick is also an author of. So cool of him to go further). Neurons are meaningfully monosemantic. My prediction for Goodfire is looking good. https://t.co/p46GxyPLA2