研究：视觉符号对模型输出影响显著，模型自身推理链难以察觉
精选理由
有篇论文挺有意思：模型会被画面里的符号带偏，自己推理时还察觉不到，跟人类看符号的方式也不一样。
一篇新论文指出，视觉符号会强烈影响大语言模型的输出，而模型在 chains-of-thought 中往往意识不到这种影响。论文还发现，模型对这些符号的反应方式与人类解读符号的方式存在明显差异。Ethan Mollick 在 X 上分享了对该研究的推荐。
原文 · Ethan Mollick
AI semiotics: cool paper suggests that AIs are strongly impacted by visual symbols in ways they do not always recognize in their own chains-of-thought. The way they react to those symbols is very different than how a human might interpret them as well. https://t.co/2tOSw2qUm1 https://t.co/PhwGpWtTI2
