面向干扰的多任务忘卸
人工智能
2026-05-20 v1
摘要
机器忘卸旨在从训练好的模型中移除指定训练数据的贡献，同时保持对剩余数据的性能。现有工作主要关注单任务设置，而现代模型常常在带有共享主干的多任务环境中运行，移除一个任务或实例的监督可能意外影响其他任务。我们引入两种多任务忘卸设置：完全任务忘卸移除目标实例在所有任务中的贡献，部分任务忘卸仅从选定任务中移除监督。我们表明，共享参数导致忘卸集与保留集之间的耦合，引发非目标任务上的任务级干扰以及其他实例上的实例级干扰。为解决此问题，我们提出一种干扰感知框架，结合任务感知梯度投影（约束更新位于任务特定子空间内）和实例级梯度正交化（减少忘卸信号与保留信号之间的冲突）。在两个多任务计算机视觉基准测试上的实验显示，我们的方法在保持强泛化能力的同时实现了有效忘卸，在完全任务忘卸中将UIS相较于最强基线降低30.3%，在部分任务忘卸中降低52.9%。
引用
@article{arxiv.2605.19042,
title = {Interference-Aware Multi-Task Unlearning},
author = {Ying-Hua Huang and Rui Fang and Hsi-Wen Chen and Ming-Syan Chen},
journal= {arXiv preprint arXiv:2605.19042},
year = {2026}
}