AI 模型在本科生录取中的偏差分析
人工智能
2024-12-04 v1
摘要
偏差检测与缓解是机器学习中的活跃研究领域。本工作在作者此前的研究基础上，提供更为严谨且完整的偏差分析。我们使用跨六年的录取数据构建了一个 AI 模型，用于判断特定学生在大型城市研究型大学科学院下各种情景下是否会被直接录取。期间，标准化考试成绩提交成为可选事项，这引发了关于标准化考试成绩对录取决策影响的有趣问题。我们开发并分析了 AI 模型，以了解哪些变量在录取决策中具有重要作用，以及排除考试成绩后的录取人口统计学变化。我们随后评估了预测模型，以检测并分析这些模型可能携带的偏差，这些偏差分别代表对三个变量的敏感人群：性别、种族以及学生是否为家庭教育首代大学生。我们还扩展了分析，表明所检测到的偏差是持久的。最后，我们纳入了若干公平性指标进行分析，并讨论了这些指标的应用与局限性。
引用
@article{arxiv.2412.02528,
title = {Bias Analysis of AI Models for Undergraduate Student Admissions},
author = {Kelly Van Busum and Shiaofen Fang},
journal= {arXiv preprint arXiv:2412.02528},
year = {2024}
}