机器学习遗忘 Surveys: 技术与新出现的隐私风险
密码学与安全
2024-06-11 v1
摘要
机器学习的爆发式增长使其成为人工智能时代的关键基础设施。大规模数据使用的广泛化对个人隐私构成严重威胁。各国已采取相应法律措施，如《通用数据保护条例》(GDPR)，以保护个人数据隐私及遗忘权。近年来，机器遗忘技术成为隐私保护领域的研究热点，其目标是高效地从训练好的模型中移除个人数据的贡献与影响。学术界对机器遗忘的研究不断丰富其理论基础，并提出众多方法，针对不同的数据删除请求及各种应用场景。然而，近期研究者发现了各种机器遗忘方法的潜在隐私泄露问题，使机器遗忘领域的隐私保护成为关键议题。本文综述现有研究，分析机器遗忘方法的当前漏洞。我们从定义、实现方法和实际应用等方面分析隐私风险。与现有综述不同，本文从隐私威胁角度，分析最新恶意攻击技术对机器遗忘所带来的新挑战。我们希望本综述能为这一新兴领域提供初步但全面的讨论。
引用
@article{arxiv.2406.06186,
title = {A Survey on Machine Unlearning: Techniques and New Emerged Privacy Risks},
author = {Hengzhu Liu and Ping Xiong and Tianqing Zhu and Philip S. Yu},
journal= {arXiv preprint arXiv:2406.06186},
year = {2024}
}