DUCK：基于质心运动学的距离遗忘
计算机视觉与模式识别
2024-05-07 v2 机器学习
摘要
机器遗忘作为一个新兴领域正在兴起，其驱动力是确保现代人工智能模型隐私的迫切需求。该技术的主要目的是从神经模型在训练期间获取的知识中，消除特定数据子集的任何残留影响。本工作引入了一种新颖的遗忘算法，称为基于质心运动学的距离遗忘 (DUCK)，该算法采用度量学习来引导移除嵌入空间中与最近的不正确质心相匹配的样本。在两种不同场景（类别移除和同质采样移除）下的多个基准数据集上评估了该算法的性能，取得了 SOTA 性能。我们还引入了一种新的度量，称为自适应遗忘分数 (AUS)，它不仅包含遗忘过程在遗忘目标数据方面的有效性，还量化了相对于原始模型的性能损失。此外，我们对 DUCK 的遗忘机制进行了深入调查，考察了其对特征空间组织的影响，并采用可解释 AI 技术以获取更深刻的见解。
引用
@article{arxiv.2312.02052,
title = {DUCK: Distance-based Unlearning via Centroid Kinematics},
author = {Marco Cotogni and Jacopo Bonato and Luigi Sabetta and Francesco Pelosin and Alessandro Nicolosi},
journal= {arXiv preprint arXiv:2312.02052},
year = {2024}
}