开源大模型在招聘中性别和种族偏见触发机制研究

研究对六款开源大模型进行系统性审计，发现招聘启事语言会影响招聘结果。使用代理性语言会降低对女性候选人的推荐分数，而使用共同体语言可部分抵消这一影响。带有排斥性编码的语言会显著降低非白人招聘者的评分，并抑制非白人求职者表达兴趣。研究提出了一套预部署审计协议，用于评估和规避这些偏见。