黑箱之内：高校学生成功预测中跨种族化群体的算法偏见检测与缓解
计算机与社会
2024-07-12 v2
摘要
高校正越来越多地转向预测大学生成功的算法，以辅助各类决策，包括与招生、预算和学生成功干预相关的决策。由于预测算法依赖历史数据，它们捕捉了社会不公，包括种族主义。在本研究中，我们考察了大学生成功预测的准确性在种族化群体之间的差异，这揭示了算法偏见。我们还评估了主流偏见缓解技术在处理此偏见上的效用。利用来自 2002 年教育纵向研究的全国代表性数据及各种机器学习建模方法，我们展示了纳入常用特征以预测大学生成功的模型在预测少数种族化学生成功时准确性较低。常见的算法偏见缓解方法通常无法消除种族化群体间预测结果与准确性的差异。
引用
@article{arxiv.2301.03784,
title = {Inside the Black Box: Detecting and Mitigating Algorithmic Bias across Racialized Groups in College Student-Success Prediction},
author = {Denisa Gándara and Hadis Anahideh and Matthew P. Ison and Lorenzo Picchiarini},
journal= {arXiv preprint arXiv:2301.03784},
year = {2024}
}