预训练 CLIP 中基于训练与数据自由的选择性、可控且领域无关的遗忘
计算机视觉与模式识别
2025-12-17 v1
摘要
预训练模型如 CLIP 在自然图像、艺术渲染和抽象表征等多种视觉领域展现了惊人的零样本分类能力。然而,实际应用往往需要在不要求额外数据或重新训练的情况下删除特定对象类,同时不影响与无关任务的性能。本文提出了一种新型训练与数据自由的遗忘框架,使我们能够实现三种不同的遗忘范式:(1)对选定对象在所有领域中的全局遗忘,(2)域特定知识移除(例如消除素描表征而保留照片识别),(3)在选择性领域中的完全遗忘。通过利用通过文本提示和从 CLIP 联合嵌入空间中推导出的合成视觉原型的多模态零空间的协同集成,我们的方法有效地移除不希望的类别信息,同时保留剩余知识。该方法克服了现有重训练方法的局限性,为受控模型遗忘提供了灵活且高效的解决方案。
引用
@article{arxiv.2512.14113,
title = {Selective, Controlled and Domain-Agnostic Unlearning in Pretrained CLIP: A Training- and Data-Free Approach},
author = {Ashish Mishra and Gyanaranjan Nayak and Tarun Kumar and Arpit Shah and Suparna Bhattacharya and Martin Foltin},
journal= {arXiv preprint arXiv:2512.14113},
year = {2025}
}