大语言模型是偏见的教师：评估大语言模型在个性化教育中的偏见
计算与语言
2025-02-11 v2 计算机与社会
摘要
随着大语言模型（LLM）在教育领域的广泛应用，关于这些模型内在偏见的担忧日益凸显。我们评估大语言模型在个性化教育场景中的偏见，具体聚焦于模型作为"教师"的角色。我们揭示了模型在针对不同人口统计学群体（包括种族、民族、性别、性别认同、残疾状态、收入、国籍）生成和选择教育内容时存在显著偏见。我们引入并应用两种偏见评分指标——平均绝对偏见（MAB）和最大差异偏见（MDB）——对9个开放式和封闭式最先进大语言模型进行分析。我们的实验使用超过17,000个教育解释，覆盖多个难度级别和主题，发现模型通过固化有害刻板印象或颠倒刻板印象来可能损害学生学习。我们发现所有前沿模型的偏见相似，其中MAB在收入水平最高，而MDB在收入和残疾状态上最高。对于这两种指标，我们发现性别/性别认同和种族/民族的偏见最低。
引用
@article{arxiv.2410.14012,
title = {LLMs are Biased Teachers: Evaluating LLM Bias in Personalized Education},
author = {Iain Weissburg and Sathvika Anand and Sharon Levy and Haewon Jeong},
journal= {arXiv preprint arXiv:2410.14012},
year = {2025}
}
备注
49 Pages, 55 Figures, NAACL Findings 2025