减少噪声,保持同一证书:保留敏感性用于不可学习
机器学习
2026-03-04 v1
摘要
认证机器不可学习旨在通过生成的不可学习输出,从训练于数据集 的模型中可 provably 地移除删除集合 的影响,该输出在统计上与在保留集合 上重新训练的模型不可区分。许多现有的认证不可学习方法借鉴了差分隐私(DP)技术,并添加根据全局敏感性校准的噪声,即所有相邻数据集之间的最坏情况输出变化。我们指出,基于全局敏感性的 DP 风格校准在不可学习方面常常过于保守,基于一个关键观察:认证不可学习本质上不需要保护保留数据 的隐私。受此区别启发,我们定义保留敏感性作为在保持 不变的前提下,对删除 的所有可能情况中的最坏情况输出变化。虽然保留敏感性在 DP 中不够,但在不可学习中恰好足够,使得可以在更少噪声下获得相同的证书。我们在理论和实证研究中验证了这些噪声减少,涵盖最小生成树权重、主成分分析(PCA)和经验风险最小化(ERM)等多个问题。最后,我们通过保留敏感性的视角细化了两种广泛使用的认证不可学习算法的分析,利用 引起的规律性进一步降低噪声并提高实用性。
引用
@article{arxiv.2603.03172,
title = {Less Noise, Same Certificate: Retain Sensitivity for Unlearning},
author = {Carolin Heinzler and Kasra Malihi and Amartya Sanyal},
journal= {arXiv preprint arXiv:2603.03172},
year = {2026}
}