LLM 中的性别偏见：更高智能并不一定解决性别偏见和刻板印象
计算机与社会
2025-02-18 v2
摘要
大型语言模型 (LLM) 正在应用于生活中的各个方面，但其对偏见的脆弱性，尤其是性别刻板印象，引发了伦理争议。本研究引入一种新方法——人物画像基方法和中性名字方法，以探讨更高智能的 LLM 是否能减少此类偏见。我们分析了由两大型语言模型生成的 1400 个人物画像，结果显示即使在智力和推理能力更高的 LLM 中，系统性偏见仍然存在。o1 对男性的competence评分为 8.1，而女性为 7.9，非二元为 7.80。分析结果显示，在工程、数据和技术等领域仍存在男性占主导的刻板印象；相反，在设计、艺术和营销等领域女性比例更高，强化了将创造力和沟通能力与女性联系的社会观念。本文提出未来方向，以进一步减少偏见，创造更公平的 AI 模型。
引用
@article{arxiv.2409.19959,
title = {Gender Biases in LLMs: Higher intelligence in LLM does not necessarily solve gender bias and stereotyping},
author = {Rajesh Ranjan and Shailja Gupta and Surya Naranyan Singh},
journal= {arXiv preprint arXiv:2409.19959},
year = {2025}
}
备注
1 Figures, 5 Tables