迈向高效的无数据机器遗忘
机器学习
2024-12-19 v1
摘要
在无法访问真实数据分布的情况下进行机器遗忘具有挑战性。现有的基于无数据蒸馏的方法通过滤除包含遗忘信息的合成样本来实现遗忘，但难以高效蒸馏出与保留相关的知识。在本工作中，我们分析得出该问题源于过度过滤，这减少了合成的与保留相关的信息。我们提出了一种新方法——抑制合成后过滤（Inhibited Synthetic PostFilter, ISPF），从两个角度应对这一挑战：首先，抑制合成，通过减少合成的遗忘信息；其次，后过滤，通过充分利用合成样本中与保留相关的信息。实验结果表明，所提出的 ISPF 有效应对了该挑战并优于现有方法。
引用
@article{arxiv.2412.13790,
title = {Toward Efficient Data-Free Unlearning},
author = {Chenhao Zhang and Shaofei Shen and Weitong Chen and Miao Xu},
journal= {arXiv preprint arXiv:2412.13790},
year = {2024}
}
备注
15 pages, 10 figures, accepted by AAAI 2025