在“被遗忘权”背景下探索教育数据挖掘的公平性
机器学习
2024-05-30 v2
摘要
在教育数据挖掘（EDM）社区中，机器学习在发现模式和结构以应对教育挑战方面取得了显著成功。值得注意的是，公平性和算法偏见在 EDM 的学习分析中受到了广泛关注。随着对“被遗忘权”需求的不断增加，机器学习模型遗忘敏感数据及其影响的需求日益增长，特别是在 EDM 领域。选择性遗忘范式，也称为机器遗忘（machine unlearning），已被广泛研究以通过消除预训练模型中特定数据的影响而无需完全重训练来满足这一需求。然而，现有研究假设交互式数据移除操作是在安全可靠的环境中进行的，忽略了潜在的恶意遗忘请求会破坏机器学习系统公平性的可能。本文引入了一类新型选择性遗忘攻击，旨在损害学习模型的公平性同时保持其预测准确率，从而防止模型所有者检测到模型性能的下降。此外，我们提出了一种用于选择性遗忘攻击的创新优化框架，能够在各种攻击场景下生成恶意遗忘请求。我们通过使用多种 EDM 数据集进行的大量实验，验证了所提出的选择性遗忘攻击对公平性的有效性。
引用
@article{arxiv.2405.16798,
title = {Exploring Fairness in Educational Data Mining in the Context of the Right to be Forgotten},
author = {Wei Qian and Aobo Chen and Chenxu Zhao and Yangyi Li and Mengdi Huai},
journal= {arXiv preprint arXiv:2405.16798},
year = {2024}
}