面向深度神经网络的认证式遗忘
机器学习
2026-04-23 v4 机器学习
摘要
在机器遗忘领域，认证式遗忘在凸机器学习模型中广泛研究，因为其高效和强大的理论保证。然而，其应用于深度神经网络 (DNN) 仍面临挑战， DNN 以高度非凸特性著称。为弥合认证式遗忘与 DNN 之间的差距，我们提出了几种简单技术，以将认证式遗忘方法扩展到非凸目标。为降低时间复杂度，我们通过逆 Hessian 近似开发了一种高效计算方法，而不损害认证保证。此外，我们将认证讨论扩展到非收敛训练和顺序遗忘情形，考虑到实际用户可以在不同时间点发送遗忘请求。在三个真实数据集上的大量实验表明，我们的方法有效，且认证式遗忘在 DNN 中的优势显而易见。
关键词
引用
@article{arxiv.2408.00920,
title = {Towards Certified Unlearning for Deep Neural Networks},
author = {Binchi Zhang and Yushun Dong and Tianhao Wang and Jundong Li},
journal= {arXiv preprint arXiv:2408.00920},
year = {2026}
}
备注
ICML 2024 (errata)