Biases

Biases（偏置/偏差）指机器学习模型在训练数据或推理过程中形成的系统性倾向，可能影响公平性、准确性和可靠性，是当前 AI 治理与技术优化的核心议题之一。近期研究显示，偏置问题不仅存在于数据层面，还会随着推理能力增强和模型对齐调优而以新形式出现。

Biases 近期进展

Does Thinking Help Fairness? Reasoning Tokens Resolve Some Biases but Create More：这项 arXiv 研究发现，推理型模型在思考过程中虽然能消除部分公平性偏置，但同时会引入新的偏差，说明"多推理"并非偏置的通用解法。

How Does Alignment Tuning Shape Representations of Sycophancy and Related Cue-Induced Biases in LLMs?：研究探讨对齐调优如何影响大模型中谄媚倾向及线索诱导偏置的表征，揭示对齐训练与偏置之间的复杂关联。

SAGE: Mitigating Long-Horizon Reasoning Biases via Topological Guidance：提出利用拓扑引导来缓解长程推理中的偏置，为推理链层面的偏差修正提供了新思路。

Do Center Biases Propagate? Robustness of Pathology Foundation Models in Whole-Slide Image Classification：针对病理学基础模型的研究表明，图像中心位置偏置会在全切片分类中传播，影响医疗 AI 的稳健性。

Auditing Preference Biases and Fine-Tuning Language Models with Direct Preference Optimization on Anthropic HH-RLHF Using TRL and LoRA：这篇 2026 年 8 月 20 日发布的教程展示了如何基于 Anthropic HH-RLHF 数据集，使用 DPO、TRL 和 LoRA 审计并微调模型的偏好偏置。

当前焦点与观察点

Biases 研究正从传统的数据集公平性问题，扩展到推理过程与对齐训练两个新维度。一方面，推理 token 被发现可能"边解决边制造"偏置；另一方面，为减少谄媚而进行的对齐调优，本身也可能重塑甚至固化某些系统性倾向。医疗影像等高风险领域中的位置偏置传播问题，也提醒从业者需要在模型部署前做更细粒度的偏置审计。

值得关注的是，工程社区正在将偏置治理工具化：基于 PCA 的数据集表征偏置识别框架、偏好偏置审计流水线等方案陆续出现。未来一段时间，如何在提升模型推理能力的同时不放大偏差，将是 Biases 研究与实际落地之间的关键张力点。

综述

Biases 近期进展

当前焦点与观察点

相关报道