使用数据增强与机器遗忘的隐私保护去偏
机器学习
2024-04-23 v1 人工智能
计算机视觉与模式识别
摘要
数据增强被广泛用于缓解训练数据集中的数据偏差。然而，数据增强使机器学习模型面临隐私攻击的风险，例如成员推理攻击。在本文中，我们提出了一种数据增强与机器遗忘的有效结合方法，该方法能够在降低数据偏差的同时，针对已知攻击提供可证明的防御。具体而言，我们利用基于扩散模型的数据增强来维持训练后模型的公平性，随后利用多分片遗忘技术从机器学习模型中移除原始数据的识别信息，以防御隐私攻击。在多个不同数据集上的实验评估表明，我们的方法在减少偏差以及抵御 SOTA 隐私攻击的鲁棒性方面均能取得显著提升。
引用
@article{arxiv.2404.13194,
title = {Privacy-Preserving Debiasing using Data Augmentation and Machine Unlearning},
author = {Zhixin Pan and Emma Andrews and Laura Chang and Prabhat Mishra},
journal= {arXiv preprint arXiv:2404.13194},
year = {2024}
}