现实世界中的谦逊 AI：以算法招聘为例
机器学习
2025-05-28 v1 人工智能
人机交互
摘要
Humble AI (Knowles et al., 2023) 主张通过怀疑态度（考虑统计学习的局限性）、好奇心（考虑意外结果）和承诺（考虑超越性能的多重价值），在 AI 的开发和部署中保持谨慎。我们提出了算法招聘领域中 humble AI 的真实世界案例研究。具体而言，我们在一个广泛使用的招聘平台上评估了虚拟筛选算法，该平台将候选人与职位空缺进行匹配。在此类情境中，存在识别错误和刻板印象等若干挑战，这些挑战难以通过标准的公平性和信任框架进行评估；例如，具有非传统背景的人排名靠前的可能性较低。我们通过排名的不确定性量化、熵估计以及突出算法未知性的用户体验，展示了将 humble AI 原则转化为实践的技术可行性。我们描述了与由招聘人员组成的焦点小组的初步讨论。未来的用户研究旨在评估 humble AI 系统较高的认知负荷是否有助于培养对其结果的信任氛围。
引用
@article{arxiv.2505.20918,
title = {Humble AI in the real-world: the case of algorithmic hiring},
author = {Rahul Nair and Inge Vejsbjerg and Elizabeth Daly and Christos Varytimidis and Bran Knowles},
journal= {arXiv preprint arXiv:2505.20918},
year = {2025}
}
备注
CHIWORK '25, Symposium on Human-Computer Interaction for Work, June 23--25, 2025, Amsterdam, Netherlands Late Breaking Work