中文

GIF:基于影响函数的通用图遗忘策略

机器学习 2023-04-07 v1 社会与信息网络

摘要

随着社会对隐私与安全的日益重视,图遗忘——撤销特定数据对训练好的GNN模型的影响——问题正受到越来越多的关注。然而,从机器遗忘到近期出现的图遗忘方法,现有努力或诉诸重训练范式,或执行未考虑相连邻居间相互依赖或对GNN结构施加约束的近似擦除,因此难以实现令人满意的性能-复杂度权衡。本工作中,我们探索为图遗忘量身定制的影响函数,以提升图遗忘的遗忘效能与效率。我们首先给出关于节点、边和特征的多样化图遗忘任务的统一问题表述。随后,我们识别出传统影响函数无法用于图遗忘的关键原因,并设计图影响函数(GIF)——一种模型无关的遗忘方法,能高效且准确地估计因删除数据中ϵ\epsilon质量扰动所引起的参数变化。其思路是:鉴于结构依赖性,在传统影响函数目标上补充受影响的邻居的额外损失项。对参数变化闭式解的进一步推导增进了对遗忘机制的理解。我们在四个代表性GNN模型和三个基准数据集上进行了大量实验,以证明GIF在多种图遗忘任务中于遗忘效能、模型效用和遗忘效率方面的优越性。我们的实现见于\url{https://github.com/wujcan/GIF-torch/}。

关键词

引用

@article{arxiv.2304.02835,
  title  = {GIF: A General Graph Unlearning Strategy via Influence Function},
  author = {Jiancan Wu and Yi Yang and Yuchun Qian and Yongduo Sui and Xiang Wang and Xiangnan He},
  journal= {arXiv preprint arXiv:2304.02835},
  year   = {2023}
}

备注

Accepted by WWW 2023