剖析 ChatGPT 在大学专业推荐中的偏见
计算机与社会
2024-01-23 v1 人工智能
摘要
我调查了 ChatGPT 针对不同学生画像的大学专业推荐中存在的偏见，考察了种族、性别和社会经济地位等因素的人口统计学差异，以及分数百分位数等教育差异。通过为 ChatGPT API 构建提示词，使模型能够根据高中学生画像推荐专业，我使用了包括 Jaccard 系数、Wasserstein 度量和 STEM 差异得分在内的多种指标来评估偏见。本研究结果表明，无论应用何种偏见指标，推荐大学专业的集合都存在显著差异。
引用
@article{arxiv.2401.11699,
title = {Dissecting Bias of ChatGPT in College Major Recommendations},
author = {Alex Zheng},
journal= {arXiv preprint arXiv:2401.11699},
year = {2024}
}