有席位就够了吗？在教育领域机器学习中引导师生参与数据集规范制定
计算机与社会
2023-11-13 v1 人工智能
人机交互
机器学习
摘要
尽管机器学习在教育中有诸多前景，其在课堂中的采用已暴露出关于公平性、问责制与透明度的众多问题，以及对数据隐私和学生同意的担忧。这些问题的根源在于缺乏对教育复杂动态的理解，包括师生互动、协作学习与课堂环境。为克服这些挑战并充分利用机器学习在教育中的潜力，软件实践者需要与教育者和学生紧密合作，以充分理解数据（机器学习应用的支柱）的语境，并协作定义机器学习数据规范。为深入理解这一协作过程，我们与机器学习软件实践者、教育者和学生开展了十次协同设计会话。在会话中，教师和学生与机器学习工程师、UX 设计师及法律实践者合作，为给定机器学习应用定义数据集特征。我们发现利益相关者基于其领域与程序性知识对数据进行语境化，主动设计数据需求以缓解下游危害与数据可靠性担忧，并表现出基于角色的协作策略与贡献模式。此外，我们发现除了有席位参与之外，利益相关者在机器学习中的有意义参与需要结构化支持：用于持续迭代与共同评估的既定流程、共享的语境化数据质量标准，以及供技术与非技术利益相关者跨越专业边界的信息脚手架。
引用
@article{arxiv.2311.05792,
title = {Is a Seat at the Table Enough? Engaging Teachers and Students in Dataset Specification for ML in Education},
author = {Mei Tan and Hansol Lee and Dakuo Wang and Hariharan Subramonyam},
journal= {arXiv preprint arXiv:2311.05792},
year = {2023}
}