AI 自我偏好在算法招聘中的体现：实证证据与洞察
计算机与社会
2026-02-10 v3
摘要
随着人工智能（AI）工具的广泛采用，大语言模型（LLM）越来越多地参与决策过程的双方，从招聘到内容 moderation。这种双重采用引发了一个关键问题：LLM 是否系统性地偏好其自身生成的内容？计算机科学领域的先前研究已识别出自我偏好偏差——即 LLM 倾向于偏好其自身生成内容的倾向，但其在现实世界中的实际影响尚未获得实证评估。我们聚焦于招聘场景，在该场景中，求职者常常依赖 LLM 来完善简历，而雇主则部署它们来筛选这些相同简历。通过大规模受控简历匹配实验，我们发现 LLM 在控制内容质量后，始终偏好由自身生成的简历，而不是由人类或其他模型生成的简历。与人类撰写的简历相比，自我偏好偏差在主要商业和开源模型之间范围从 67% 到 82%。为评估劳动力市场影响，我们模拟了 24 个职业领域中真实的招聘流程。这些模拟显示，使用与评估者相同 LLM 的候选人比提交人类撰写简历的同等合格申请人更可能被遴选出来，概率提升 23% 至 60%，在销售和会计等业务相关领域的劣势最为显著。我们进一步证明，通过针对 LLM 自我识别能力的简单干预，可将此偏差降低超过 50%。这些发现凸显了 AI 辅助决策中一种尚未被充分注意的风险，并呼吁扩展 AI 公平性框架，以不仅涵盖基于人口统计的差异，也涵盖 AI 与 AI 之间偏差。
引用
@article{arxiv.2509.00462,
title = {AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights},
author = {Jiannan Xu and Gujie Li and Jane Yi Jiang},
journal= {arXiv preprint arXiv:2509.00462},
year = {2026}
}
备注
This paper has been accepted as a non-archival submission at EAAMO 2025 and AIES 2025