ESC：用于知识删除的空间概念擦除
计算机视觉与模式识别
2025-04-04 v1 人工智能
摘要
随着对深度学习中隐私问题的担忧不断增长，个人越来越担心其个人知识在训练模型中被潜在利用。尽管已有一些研究努力解决此问题，但它们往往未能考虑用户对完全知识擦除的现实需求。此外，我们的调查显示，现有方法存在通过嵌入特征泄露个人知识的风险。为了解决这些问题，我们引入了知识删除（KD）的新概念，这是一项同时考虑这两个问题的高级任务，并提供了一个合适的指标，名为知识保留分数（KR），用于评估特征空间中的知识保留。为了实现这一点，我们提出了一种名为擦除空间概念（ESC）的新型免训练擦除方法，该方法通过消除特征中的相关激活来限制遗忘知识的重要子空间。此外，我们提出了带训练的 ESC（ESC-T），它使用可学习掩码来更好地平衡知识删除中遗忘与保留之间的权衡。我们在各种数据集和模型上的广泛实验表明，我们提出的方法实现了最快和最先进的性能。值得注意的是，我们的方法适用于各种遗忘场景，例如人脸领域设置，证明了我们方法的泛化能力。代码可在 http://github.com/KU-VGI/ESC 获取。
引用
@article{arxiv.2504.02199,
title = {ESC: Erasing Space Concept for Knowledge Deletion},
author = {Tae-Young Lee and Sundong Park and Minwoo Jeon and Hyoseok Hwang and Gyeong-Moon Park},
journal= {arXiv preprint arXiv:2504.02199},
year = {2025}
}
备注
22 pages, 14 figures, 18 tables, CVPR 2025