LoTUS：带有不确定性的大规模机器遗忘
机器学习
2025-08-29 v4 人工智能
计算机视觉与模式识别
摘要
我们提出了 LoTUS，一种新颖的机器遗忘（MU）方法，可消除训练样本对预训练模型的影响，从而避免从头开始重新训练。LoTUS 将模型的预测概率平滑至信息论界限，缓解了因数据记忆导致的过度自信。我们在 Transformer 和 ResNet18 模型上评估了 LoTUS，并与五个公共数据集上的八个基线进行了比较。除了既定的 MU 基准外，我们还在大规模数据集 ImageNet1k 上评估了遗忘效果，在该场景下重新训练是不切实际的，从而模拟了真实世界的条件。此外，我们引入了新颖的免重训 Jensen-Shannon 散度（RF-JSD）指标，以实现在真实世界条件下的评估。实验结果表明，LoTUS 在效率和有效性方面均优于 SOTA 方法。代码：https://github.com/cspartalis/LoTUS。
引用
@article{arxiv.2503.18314,
title = {LoTUS: Large-Scale Machine Unlearning with a Taste of Uncertainty},
author = {Christoforos N. Spartalis and Theodoros Semertzidis and Efstratios Gavves and Petros Daras},
journal= {arXiv preprint arXiv:2503.18314},
year = {2025}
}
备注
Accepted as a main conference paper at CVPR 2025 (https://cvpr.thecvf.com/virtual/2025/poster/33292)