LLM 生成叙事中针对全球少数民族国籍的表征伤害
计算与语言
2026-04-27 v1
摘要
大型语言模型（LLM）越来越多地用于从日常应用到高风险企业和政府应用的文本生成任务，包括与庇护者进行模拟面试。尽管许多作品强调了 LLM 的新潜力应用，但 LLM 编码并持续潜在有害偏见的风险已引起广泛关注。为更好地评估和缓解此类伤害，亟需更多研究来考察 LLM 如何呈现多元化个体。在本工作中，我们研究了广泛采用的 LLM 在回应开放式叙事生成提示时如何描绘民族裔身份。我们的发现表明，民族裔身份存在持续的表征伤害，包括有害刻板印象、消失和单维度描绘全球少数民族身份。少数民族民族身份在中性故事中被低估，同时在从属角色描绘中被高估，这些从属描绘出现的概率比主导描绘高出 50 倍。当输入提示中包含美国民族线索（如“American”）时，伤害程度会被放大。值得注意的是，我们发现我们识别的伤害无法通过“顺从”现象来解释，即使将美国民族线索替换为非美国民族身份，美国中心的偏见仍然 persists。基于我们的发现，我们呼吁通过以全球少数民族视角为中心并挑战对美国为中心的 LLM 用于分类、监视和误表示的不批判性采纳，进一步探索 LLM 中的文化伤害。
引用
@article{arxiv.2604.22749,
title = {Representational Harms in LLM-Generated Narratives Against Global Majority Nationalities},
author = {Ilana Nguyen and Harini Suresh and Thema Monroe-White and Evan Shieh},
journal= {arXiv preprint arXiv:2604.22749},
year = {2026}
}
备注
FAccT '26, June 25-28, 2026, Montreal, QC, Canada