基于Transformer神经网络的公平分类：教育领域案例研究

如今，教育技术越来越多地使用数据和机器学习（ML）模型。这为学生、教师和管理人员提供了支持与洞见，以制定最优策略。然而，众所周知，ML模型存在偏差，这引发了人们对在教育中使用这些自动化ML算法的公平性、偏差与歧视及其意料之外和未预见到的负面后果的担忧。决策过程中偏差的来源包括用于训练ML模型的数据集以及模型架构。本文对Transformer神经网络在两个表格数据集（Law School与Student-Mathematics）上的公平性进行了初步研究。与经典ML模型不同，基于Transformer的模型在解决分类任务的同时，将这些表格数据集转换为更丰富的表示。我们使用不同的公平性度量进行评估，并检验基于Transformer的模型在表格数据集上公平性与准确性之间的权衡。实证上，我们的方法在Law School数据集上的公平性与性能权衡方面展现出令人印象深刻的结果。