中文

可扩展且可认证的图遗忘:克服近似误差障碍

机器学习 2025-02-19 v3

摘要

鉴于图神经网络(GNN)在涉及敏感用户数据的应用中被广泛采用,图遗忘已成为确保隐私保护的关键研究领域。在现有研究中,可认证的图遗忘因提供稳健的隐私保证而脱颖而出。然而,当前的可认证图遗忘方法对于大规模图并不实用,因为它们需要为每个遗忘请求重新计算代价高昂的图传播。尽管已开发出许多可扩展技术来加速GNN的图传播,但由于这些可扩展方法会在节点嵌入中引入近似误差,它们与可认证图遗忘的整合仍不确定。相比之下,可认证图遗忘要求精确节点嵌入上的模型误差有界,以维持其可认证保证。为应对这一挑战,我们提出了ScaleGUN,这是首个将可认证图遗忘扩展到十亿边图的方法。ScaleGUN将近似图传播技术整合到可认证图遗忘中,为三种遗忘场景提供可认证保证:节点特征遗忘、边遗忘和节点遗忘。在真实世界数据集上的大量实验证明了ScaleGUN的效率和遗忘效果。值得注意的是,对于十亿边图ogbn-papers100M上的5000条随机边移除请求,ScaleGUN在20秒内完成了(ϵ,δ)=(1,104)(\epsilon,\delta)=(1,10^{-4})的可认证遗忘——其中仅需5秒用于更新节点嵌入——相比之下,重新训练需要1.91小时,重新传播需要1.89小时。我们的代码可在https://github.com/luyi256/ScaleGUN获取。

关键词

引用

@article{arxiv.2408.09212,
  title  = {Scalable and Certifiable Graph Unlearning: Overcoming the Approximation Error Barrier},
  author = {Lu Yi and Zhewei Wei},
  journal= {arXiv preprint arXiv:2408.09212},
  year   = {2025}
}

备注

ICLR 2025 (Spotlight)