超越“公平”：以结构（不）正义视角审视教育人工智能
计算机与社会
2021-11-02 v2 人工智能
人机交互
摘要
教育技术以及部署这些技术的学校系统，践行着关于何为重要知识以及学习者应如何学习的特定意识形态。由于人工智能技术——无论在教育领域内外——可能导致边缘化社区的不平等结果，人们已开发各种方法来评估和缓解 AI 的有害影响。然而，我们在本文中主张，基于 AI 模型性能差异来评估公平的主流范式，不足以应对教育 AI 系统（再）生产的系统性不平等。我们借助受批判理论与黑人女性主义学术启发的结构不正义视角，批判性质询几类被广泛研究和采用的教育 AI，并探讨它们如何卷入并再生产结构不正义与不平等的历史遗产，无论其模型性能是否均等。我们以面向更具公平性教育 AI 未来的替代愿景作结。
引用
@article{arxiv.2105.08847,
title = {Beyond "Fairness:" Structural (In)justice Lenses on AI for Education},
author = {Michael Madaio and Su Lin Blodgett and Elijah Mayfield and Ezekiel Dixon-Román},
journal= {arXiv preprint arXiv:2105.08847},
year = {2021}
}
备注
To be published in: The Ethics of Artificial Intelligence in Education: Current Challenges, Practices and Debates, W. Holmesand K. Porayska-Pomsta (Eds.), Routledge. This revision incorporates reviewer feedback and updates the title to reflect the current book chapter title