Silver Linings in the Shadows: 利用成员推断实现机器无学习

随着机器学习（ML）模型在各个领域的持续进步和广泛采用，确保用户隐私和数据安全已成为首要 concern。在遵循 GDPR 等数据隐私法规的背景下，安全的机器学习框架不仅应赋予用户请求删除其训练数据贡献的权利，还应促进消除机器学习模型中敏感数据指纹，以缓解潜在攻击——此过程称为机器无学习。在本研究中，我们提出一种新型无学习机制，有效移除特定数据样本对神经网络的影响，同时考虑无学习后模型在主要任务上的性能。为实现此目标，我们设计了一种针对消除模型权重和激活值中隐私敏感信息的新型损失函数，通过结合目标分类损失和成员推断损失实现。我们的可适应框架可轻松集成各种隐私泄露近似机制以指导无学习过程。我们通过成员推断机制作为概念验证，提供该无学习方法有效性的实证证据，并给出理论上限分析。结果显示，我们的方法在四个数据集和四种深度学习架构上在无学习效能和延迟方面表现优异，同时保持主要任务的忠实度。