POUR: 基于神经坍塌实现表示无损忘的 provably optimal 方法

Anjie Le; Can Peng; Yuyuan Liu; J. Alison Noble

POUR: 基于神经坍塌实现表示无损忘的 provably optimal 方法

计算机视觉与模式识别 2026-04-28 v2

作者: Anjie Le , Can Peng , Yuyuan Liu , J. Alison Noble

摘要

在计算机视觉中, 机器无忘记旨在删除特定视觉概念或训练图像的影响, 而无需从头重新训练。现有方法往往仅修改分类器而保留内部表示不变, 导致忘记不完全。在本工作中, 我们将无忘记扩展到表示层面, 在忘记效果、保留保真度和类别分离之间推导出三项相互作用。基于神经坍塌理论, 我们表明单胜满帧 (Simplex ETF) 的正交投影在低维空间中仍保持ETF特性, 从而得到可证明的最优忘记算子。我们进一步引入表示无忘记得分 (RUS) 以量化表示层面的忘记和保留保真度。基于此, 我们引入POUR (Provably Optimal Unlearning of Representations), 一种具有闭式解 (POUR-P) 和基于蒸馏方案下的特征层无忘记变体 (POUR-D) 的几何投影方法。在CIFAR-10/100和PathMNIST上的实验表明, POUR在保持保留知识的同时实现了有效无忘记, 在分类层面和表示层面指标上均优于最先进的无忘记方法。

关键词

机器无忘记神经坍塌表示学习正交投影单胜满帧

引用

@article{arxiv.2511.19339,
  title  = {POUR: A Provably Optimal Method for Unlearning Representations via Neural Collapse},
  author = {Anjie Le and Can Peng and Yuyuan Liu and J. Alison Noble},
  journal= {arXiv preprint arXiv:2511.19339},
  year   = {2026}
}

备注

CVPR 2026

POUR: 基于神经坍塌实现表示无损忘的 provably optimal 方法

摘要

关键词

引用

备注

相关论文