大型语言模型放大人类流动中的种族和性别差异
计算与语言
2024-11-25 v1 人工智能
摘要
随着大型语言模型 (LLM) 越来越多地应用于影响社会结果的领域，理解它们倾向于延续和放大偏见的关键。本研究调查了 LLM 在基于种族和性别预测人类流动性方面是否存在偏见——这是一种基本的人类行为。我们使用 GPT-4、Gemini 和 Claude 等三大主流 LLM 来分析其对单个个体访问特定地点 (POI) 的预测值，该预测值依赖包含显式人口统计学细节和不包含显式人口统计学细节的姓名的提示。我们发现，LLM 经常反映并放大既有的社会偏见。具体而言，针对少数族裔的预测显著偏斜，这些个体被显著不太可能与与财富相关的地点 (POI) 相关联。性别偏见也同样明显，女性个体在职业相关 POI 上的关联性始终低于其男性同事。这类偏见性关联表明，LLM 不仅镜像这些偏见，而且在涉及种族和性别的语境中加剧了社会刻板印象。
引用
@article{arxiv.2411.14469,
title = {Popular LLMs Amplify Race and Gender Disparities in Human Mobility},
author = {Xinhua Wu and Qi R. Wang},
journal= {arXiv preprint arXiv:2411.14469},
year = {2024}
}