揭示 AI 中的隐藏偏见：来自大型语言模型的经验教训
人工智能
2024-10-23 v1 计算机与社会
摘要
随着大型语言模型（LLM）越来越多地被用于招聘流程，关于 AI 引发偏见的担忧日益加剧。本研究检验了 Claude 3.5 Sonnet、GPT-4o、Gemini 1.5 和 Llama 3.1 405B 四款模型生成的候选人面试报告中的偏见，聚焦于性别、种族和年龄等特征。我们评估了基于 LLM 的匿名化在减少这些偏见方面的效果。研究发现，尽管匿名化可减少某些偏见，尤其是性别偏见，但其效果在不同模型和偏见类型之间存在差异。值得注意的是，Llama 3.1 405B 表现出最低的整体偏见。此外，我们的方法通过比较匿名化和非匿名化数据，揭示了一种新的评估 LLM 内在偏见的途径，这种方法超越了招聘应用的范畴。这项研究强调了谨慎选择 LLM 的重要性，并为最小化 AI 应用中的偏见提供了最佳实践，促进公平与包容性。
引用
@article{arxiv.2410.16927,
title = {Revealing Hidden Bias in AI: Lessons from Large Language Models},
author = {Django Beatty and Kritsada Masanthia and Teepakorn Kaphol and Niphan Sethi},
journal= {arXiv preprint arXiv:2410.16927},
year = {2024}
}
备注
13 pages, 18 figures. This paper presents a technical analysis of bias in large language models, focusing on bias detection and mitigation