中文

LEGATO:良好的身份忘却是连续的

机器学习 2026-01-09 v1

摘要

机器忘却正在成为关键,旨在使在大型数据集上训练的生成模型能够删除敏感、私有或受版权保护的数据。然而,现有的机器忘却方法在生成模型的身份擦除方面面临三个挑战:1) 效率低下,需要对模型的所有参数进行微调以实现身份擦除;2) 可控性有限,忘却强度无法控制且缺乏可解释性;3) 灾难性崩溃,随着忘却进程的推进,模型的保留能力发生剧烈退化。忘却通常通过离散且不稳定的更新来处理,通常需要完整的模型微调,导致灾难性崩溃。本文我们认为,身份忘却应被建模为连续轨迹,我们提出 LEGATO - Learn to ForgEt Identity in GenerAtive Models via Trajectory-consistent Neural Ordinary Differential Equations。LEGATO 通过为预训练的生成器添加可微调的轻量级 Neural ODE 适配器,实现了在保持原始模型权重冻结的前提下进行平滑、可控的忘却。这种表述允许通过 ODE 步长精确调制忘却强度,提供可解释性和鲁棒性。为进一步确保稳定性,我们引入轨迹一致性约束,显式防止忘却期间的灾难性崩溃。广泛的实验在域内和域外身份忘却基准测试中显示,LEGATO 实现了最先进的忘却性能,避免了灾难性崩溃并减少了微调参数。

关键词

引用

@article{arxiv.2601.04282,
  title  = {LEGATO: Good Identity Unlearning Is Continuous},
  author = {Qiang Chen and Chun-Wun Cheng and Xiu Su and Hongyan Xu and Xi Lin and Shan You and Angelica I. Aviles-Rivero and Yi Chen},
  journal= {arXiv preprint arXiv:2601.04282},
  year   = {2026}
}