对抗性Mixup忘卸

机器忘卸是旨在保护数据隐私，通过从机器学习模型中移除敏感信息的关键研究领域。这一领域的独特挑战之一是灾难性忘卸，即擦除特定数据时意外地移除关键知识，导致模型显著偏离重新训练的模型。为此，我们引入了一种正则化忘卸过程的新方法，利用合成mixup样本来模拟易受灾难性影响的数据。我们方法的核心是一种生成器-忘卸器框架MixUnlearn，其中生成器对抗性地产生具有挑战性的mixup示例，忘卸器基于这些合成数据有效地忘卸目标信息。具体而言，我们首先引入一种新颖的对比目标来训练生成器的对抗方向：生成会促使忘卸器暴露应被遗忘信息的示例，同时丢失关键知识的示例。然后，忘卸器在两个其他对比损失项的指导下，联合处理合成数据和真实数据，以确保准确忘卸而不损失关键知识，克服灾难性影响。广泛的基准数据集评估表明，我们的方法显著优于最先进的方法，为机器忘卸提供了稳健的解决方案。这项工作不仅深化了对忘卸机制的理解，也为利用mixup增强实现有效的机器忘卸奠定了基础。