BAD：面向候选筛选场景大语言模型的偏见检测
计算与语言
2023-05-18 v1
摘要
申请人追踪系统（ATS）使人才经理、招聘人员及大学招生委员会能够高效处理大量潜在候选人申请。传统上，该筛选过程由人工进行，因申请数量庞大而造成主要瓶颈，并引入诸多人类偏见的实例。诸如 ChatGPT 之类的大语言模型（LLM）的出现，以及将此类方法用于当前自动化申请筛选的潜力，引发了必须解决的额外偏见与公平性问题。在本项目中，我们旨在识别并量化 ChatGPT 及其他 OpenAI LLM 在候选筛选场景中的社会偏见实例，以展示使用这些模型如何会延续招聘过程中既有的偏见与不平等。
引用
@article{arxiv.2305.10407,
title = {BAD: BiAs Detection for Large Language Models in the context of candidate screening},
author = {Nam Ho Koh and Joseph Plata and Joyce Chai},
journal= {arXiv preprint arXiv:2305.10407},
year = {2023}
}
备注
12 pages, 6 figures