面向不忘却忘的视觉 Transformer: NOVO
计算机视觉与模式识别
2025-07-08 v1
摘要
机器不忘(MUL)指的是在保留剩余数据集性能的前提下，使预训练模型选择性地遗忘某些训练实例或类别的技术。现有的 MUL 研究涉及使用忘记集和/或保留集进行微调，成本高昂且往往不切实际，常导致未被遗忘的模型性能下降。我们提出了一种名为 NOVO 的架构，该架构是一种面向不忘的视觉 Transformer 结构，能够在无需对请求的忘记集进行任何微调的情况下，直接执行未来的不忘操作。该模型通过模拟训练过程中的不忘来进行训练。它涉及随机将每个 mini-batch 中包含的类别(子类)分为两个不相交的集合：代理忘记集和保留集，并优化模型以无法预测忘记集。通过撤回键值实现忘记，这使得无需额外操作即可实现即时不忘，避免了性能下降。该模型与可学习的键值和原始权重联合训练，确保撤回键值不可逆地擦除信息，经成员推断攻击得分验证。广泛的实验在各种数据集、架构和分辨率上均证明了 NOVO 在无微调和有微调方法上的优势。
关键词
引用
@article{arxiv.2507.03281,
title = {NOVO: Unlearning-Compliant Vision Transformers},
author = {Soumya Roy and Soumya Banerjee and Vinay Verma and Soumik Dasgupta and Deepak Gupta and Piyush Rai},
journal= {arXiv preprint arXiv:2507.03281},
year = {2025}
}