忘却的安全性：将机器不可知与机器学习攻击关联
密码学与安全
2025-10-13 v2
摘要
随着机器学习 (ML) 的发展，针对这一范式的安全威胁的复杂性和 sophistication 不断增长，威胁数据隐私和模型完整性。在此背景下，机器不可知 (MU) 是一种近期技术，旨在从训练好的模型中移除特定数据的影响，以实现隐私合规和用户请求。这种做法可用于隐私合规（例如 GDPR 的遗忘权）或模型精炼。然而，经典 ML 威胁与 MU 的交叉仍然基本未被探索。在本系统知识概述 (SoK) 中，我们提供了对 ML 安全威胁及其对 MU 影响的结构化分析。我们分析了四大攻击类别，即后门攻击、成员推断攻击 (MIA)、对抗攻击和逆向攻击，我们研究了这些攻击对 MU 的影响并提出了一种基于它们在此背景下通常使用的模式的新分类。最后，我们识别出开放挑战，包括伦理考虑，并探讨了有前景的未来研究方向，为安全和隐私保护的机器不可知研究之路奠定了基础。
引用
@article{arxiv.2503.20257,
title = {How Secure is Forgetting? Linking Machine Unlearning to Machine Learning Attacks},
author = {Muhammed Shafi K. P. and Serena Nicolazzo and Antonino Nocera and Vinod P},
journal= {arXiv preprint arXiv:2503.20257},
year = {2025}
}