通过梯度枢轴实现可控机器遗忘

机器遗忘 (MU) 旨在从训练好的模型中移除特定数据的影响。然而，近似遗忘方法通常 formulated 为单目标优化 (SOO) 问题，面临着在遗忘效能与模型保真度之间进行权衡的关键挑战。这导致三个主要问题：过度遗忘的风险、对遗忘过程缺乏细粒度控制，以及缺乏综合评估该权衡的指标。为此，我们将 MU 重新表述为多目标优化 (MOO) 问题。随后引入一种新算法，即通过梯度枢轴实现可控遗忘 (Controllable Unlearning by Pivoting Gradient, CUP)，其特点是独特的枢轴机制。与传统 MOO 方法收敛至单一解不同，CUP 的机制被设计用于可控地遍历整个帕累托前沿。这种遍历由一个直观的超参数控制，即“遗忘强度”，允许精确选择所需的权衡点。为评估这一能力，我们采用超体积指标 (hypervolume indicator)，该指标捕捉算法能够生成的解集在质量和多样性方面的整体表现。我们的实验结果表明，CUP 产生一组优于现有方法的帕累托最优解集，在 various vision tasks 中始终优于现有方法。