中文

公平机器遗忘:在移除数据的同时缓解差异

机器学习 2024-02-19 v2 人工智能

摘要

被遗忘权是欧盟《通用数据保护条例》(GDPR)等监管框架所阐述的核心原则。该原则允许个人要求其个人数据从已部署的机器学习模型中删除。虽然“遗忘”可通过在剩余数据集上重新训练天真地实现,但针对每个新请求如此操作的计算代价高昂。因此,已有若干机器遗忘方法被提出作为重新训练的高效替代方案。这些方法旨在逼近重新训练的预测性能,却未考虑遗忘如何影响对现实应用至关重要的其他属性,如公平性。本工作中,我们证明大多数高效遗忘方法无法适配流行的公平性干预手段,并提出了首个公平机器遗忘方法,能够从一个公平目标中高效遗忘数据实例。我们推导出理论结果,证明我们的方法可证明地遗忘数据并可证明地维持公平性表现。基于真实世界数据集的广泛实验凸显了我们的方法在遗忘数据实例的同时保持公平性的有效性。

关键词

引用

@article{arxiv.2307.14754,
  title  = {Fair Machine Unlearning: Data Removal while Mitigating Disparities},
  author = {Alex Oesterling and Jiaqi Ma and Flavio P. Calmon and Hima Lakkaraju},
  journal= {arXiv preprint arXiv:2307.14754},
  year   = {2024}
}

备注

25 pages, 3 figures, accepted to AISTATS 2024. Code is provided at https://github.com/AI4LIFE-GROUP/fair-unlearning