大型语言模型在教育咨询中的社会人口学偏差
计算机与社会
2026-04-30 v1 人工智能
摘要
随着大型语言模型（LLM）日益融入教育环境，理解其潜在偏差至关重要。本研究考察了基于 LLM 的教育咨询中的社会人口学偏差。我们评估了六个 LLM 回答关于 900 个描述处于不同情况学生的情境题的响应。每个情境在 14 个社会人口学标识符——涵盖种族和性别、社会经济地位和移民背景——以及一个对照条件下进行系统测试，产生 243,000 个模型响应。我们的发现表明：（1）所有模型都表现出可测量的偏差；（2）偏差模式部分与已记录的人类偏差一致，但在显著方面存在分歧；（3）这些偏差的幅度受学生描述精确度的强烈影响，其中模糊或最少的信息使差异放大近三倍，而具体的、个性化的指标则大幅减少差异；（4）各模型之间的偏差特征差异很大。这些结果表明了情境丰富且个性化教育表征的重要性，表明 AI 驱动的教育决策受益于详细的学生特定信息，以促进公平和公正。
引用
@article{arxiv.2604.25932,
title = {Sociodemographic Biases in Educational Counselling by Large Language Models},
author = {Tomasz Adamczyk and Wiktoria Mieleszczenko-Kowszewicz and Beata Bajcar and Grzegorz Chodak and Aleksander Szczęsny and Maciej Markiewicz and Karolina Ostrowska and Aleksandra Sawczuk and Przemysław Kazienko},
journal= {arXiv preprint arXiv:2604.25932},
year = {2026}
}