WSS-CL：用于高效机器遗忘图像分类的权重显著性软引导对比学习

机器遗忘，即在已训练模型中高效删除特定数据的影响，仍然是一个具有挑战性的问题。当前主要专注于以数据为中心或基于权重策略的机器遗忘方法，在实现精确遗忘、保持稳定性以及确保跨不同领域的适用性方面经常遇到挑战。在这项工作中，我们引入了一种用于图像分类的新型两阶段高效机器遗忘方法，就权重显著性而言，利用权重显著性将遗忘过程集中在关键模型参数上。我们的方法称为用于高效机器遗忘图像分类的权重显著性软引导对比学习（WSS-CL），它显著缩小了与“精确”遗忘的性能差距。首先，遗忘阶段最大化输出 logit 与聚合伪标签之间的 Kullback-Leibler 散度，以在 logit 空间中实现高效遗忘。接着，对抗性微调阶段以自监督方式引入对比学习。通过使用缩放的特征表示，它在特征空间中最大化被遗忘数据和保留数据样本之间的距离，其中被遗忘数据和配对的增强样本作为正样本对，而保留样本在对比损失计算中作为负样本对。实验评估表明，与 SOTA 方法相比，我们提出的方法产生了大幅提升的遗忘有效性，且性能损失可忽略不计，表明其在监督和自监督设置中的可用性。