面向教育AI应用的公平性、偏见与伦理: FairAIED框架
机器学习
2025-11-04 v2
摘要
AI在教育中的集成为个人化学习体验和变革教学实践的潜力巨大。然而，AI系统可能不经意地编码并放大教育数据中存在的偏见，导致不公平或歧视性的结果。随着研究者寻求理解和缓解这些偏见，针对教育AI公平性的研究工作不断涌现。尽管这些研究正快速扩张，但仍因不同的假设、方法学和应用情境而碎片化。此外，现有调查要么聚焦于教育环境之外的算法公平性，要么强调教育方法而忽视公平性。为此，本文提供了一项关于教育AI中算法公平性的全面系统性综述，显式地填补了技术公平性研究与教育应用之间的空白。我们将偏见来源、公平性定义、缓解策略、评估资源和伦理考虑等多个维度整合为一个以教育为中心的框架。此外，我们显式检讨了诸如受限或部分观察到的学习结果以及在公平性和预测效用之间进行权衡的持久困难问题，增强了公平性框架在现实教育AI系统中的适用性。最后，我们勾勒了向公平AI驱动教育发展的新兴道路，并通过将这些技术和实践见解置于更广泛的教育和伦理语境中，本综述为在AI教育领域推进公平性、问责制和包容性奠定了全面的基础。
引用
@article{arxiv.2407.18745,
title = {FairAIED: Navigating Fairness, Bias, and Ethics in Educational AI Applications},
author = {Zhipeng Yin and Sribala Vidyadhari Chinta and Zichong Wang and Matthew Gonzalez and Wenbin Zhang},
journal= {arXiv preprint arXiv:2407.18745},
year = {2025}
}