重新思考机器遗忘：通过键删除设计的模型
机器学习
2026-04-03 v3
摘要
机器遗忘正快速成为实际要求，由隐私法规、数据错误以及需要移除有害或损坏训练样本驱动。尽管如此，大多数现有方法仍从事后视角着手解决此问题。它们试图通过通常需要访问完整训练数据的参数更新来擦除特定训练样本的影响。这与实际部署场景不符，在后续部署场景中，遗忘请求可以被预见，这揭示了事后方法的根本局限。我们提出通过设计实现遗忘，这是一种新范式，其中模型直接训练以支持将遗忘作为内在能力。我们以 Machine UNlearning via KEY deletion (MUNKEY) 实现了这一想法，这是一个内存增强变换器，通过将实例特定的记忆从模型权重中解耦来实现。此处，遗忘对应于删除实例识别键，无需权重更新或访问原始样本或标签即可实现直接零样本遗忘。在自然图像基准、细粒度识别和医疗数据集上，MUNKEY 均优于所有事后基线方法。我们的结果表明，通过设计的遗忘方法能够实现快速、面向部署的遗忘，同时保持预测性能。
引用
@article{arxiv.2603.15033,
title = {Rethinking Machine Unlearning: Models Designed to Forget via Key Deletion},
author = {Sonia Laguna and Jorge da Silva Goncalves and Moritz Vandenhirtz and Alain Ryser and Irene Cannistraci and Julia E. Vogt},
journal= {arXiv preprint arXiv:2603.15033},
year = {2026}
}