中文

完全去中心化的认证式忘卸

机器学习 2025-12-10 v1

摘要

机器忘卸 (MU) 旨在响应隐私请求或数据投毒,移除特定数据对训练模型的影响。虽然认证忘卸在集中式和服务器协调下的联邦学习环境中(通过类似差分隐私 DP 的保证)已有所分析,但在无协调器的去中心化环境中仍鲜有探讨。我们研究去中心化网络中的认证忘卸,提出 RR-DU—a 基于随机游走的忘卸程序,该程序在执行忘卸客户端上的忘卸集的一个投影梯度上升步骤,以及在其他位置执行若干个保留数据上的投影梯度下降步骤,同时引入亚样本高斯噪声并投影到原模型周围的信任区域内。我们提供 (i) 在凸情况下的收敛保证以及在非凸情况下的 Stationarity 保证,(ii) 通过亚样本高斯 R\'enyi DP (RDP) 的分段子采样,获得客户端视图的 (ε,δ)(\varepsilon,\delta) 网络忘卸认证,(iii) 量化忘卸容量上限,其规模随忘卸-局部数据比例而增长,并量化了去中心化(网络混合和随机子采样)对隐私-实用性权衡的影响。在 MNIST、CIFAR-10 等图像基准上进行的实验表明,RR-DU 在给定 (ε,δ)(\varepsilon,\delta) 时的性能与基线相当,同时在测试准确率上更高,在忘卸准确率上降低至接近随机猜测(≈10%)。

关键词

引用

@article{arxiv.2512.08443,
  title  = {Fully Decentralized Certified Unlearning},
  author = {Hithem Lamri and Michail Maniatakos},
  journal= {arXiv preprint arXiv:2512.08443},
  year   = {2025}
}