面向高效实用性保存的隐式梯度手术

机器去学习（Machine Unlearning, MU）旨在高效地从预训练模型中移除敏感或有害记忆。其关键挑战在于，在保持模型原始性能的同时，实现去学习效果与实用性保存之间的潜在权衡，这涉及在保持模型原有性能的约束下忘却按定义所述的不良信息。一种可能的解决方法是使用多目标优化，联合优化去学习与实用性保存目标。然而，现有多目标方法仅保证找到帕累托最优解，而无法实现精细控制，导致对去学习目标的欠优化。为此，我们首先将MU建模为约束优化问题，即在实用性损失增加受限的约束下优化去学习目标。我们进一步表明，解决该优化问题等价于对去学习目标进行单向梯度手术。为解决梯度手术带来的额外计算成本，我们提出一种隐式梯度手术方法，通过仅一次反向传播来近似求解上述约束优化问题，从而实现高效的实用性保存去学习。理论上，我们提供了该算法的紧密收敛分析。实验上，我们的广泛实验表明，所提算法在已有基线之上实现了更好的权衡效果。代码已公开于https://github.com/anseryuer/EUPMU-Efficient-Utility-Preserving-Machine-Unlearning。