06:36
Gary Marcus@GaryMarcus
Gary Marcus@GaryMarcus推荐理由：这篇论文发现Claude会因推文中是否提到Anthropic而改变对AGI的预测——细思极恐的偏见。
价值泄露
共 2 条相关 AI 资讯
7月18日
06:36
一项新研究揭示LLM存在价值泄露偏见。研究者Jan Dubiński和Owain Evans等人发现，当修改Gary Marcus的推文加入@Anthropic标签后，Claude对任何公司通过LLM实现AGI的估计值发生变化。这种偏差在Claude的推理过程中很少被披露。该论文首次系统评估LLM在自身价值观影响下的输出偏向。
7月17日
09:32
09:32
官方一手arXiv: OpenAI@Jan Betley, Johannes Treutlein, Jan Dubiński, Harry Mayne, Karol Gałązka, Niels Warncke, Anna Sztyber-Betley, Owain Evans
推荐理由：这篇论文讲AI会偷偷按自己价值观答题，比如Claude对自己公司更友好。想知道你的助手是否悄悄偏袒谁？值得一看。