序列子空间噪声注入防止认证遗忘中的精度坍塌
机器学习
2026-01-09 v1
摘要
基于差分隐私的认证遗忘提供了强有力的保证，但在很大程度上仍然不切实际：迄今为止提出的噪声微调方法实现了这些保证，但严重降低了模型精度。我们提出序列噪声调度，将噪声预算分配到参数空间的正交子空间中，而不是一次性全部注入。这一简单的修改在保留原始认证保证的同时，减轻了噪声的破坏性影响。我们将噪声微调的分析扩展到子空间设置，证明保留了相同的 隐私预算。在图像分类基准上的实验结果表明，我们的方法在遗忘后显著提高了精度，同时对成员推理攻击保持鲁棒性。这些结果表明，认证遗忘可以同时实现严格的保证和实际的效用。
引用
@article{arxiv.2601.05134,
title = {Sequential Subspace Noise Injection Prevents Accuracy Collapse in Certified Unlearning},
author = {Polina Dolgova and Sebastian U. Stich},
journal= {arXiv preprint arXiv:2601.05134},
year = {2026}
}