GNNDelete：图神经网络中一种通用的机器遗忘策略
机器学习
2023-02-28 v1 人工智能
摘要
图遗忘（graph unlearning）涉及从训练好的图神经网络（GNN）模型中删除节点、节点标签和关系等图元素，对于数据元素可能变得无关、不准确或涉及隐私的现实应用至关重要。然而，现有的图遗忘方法要么恶化所有节点共享的模型权重，要么由于对局部图邻域的强依赖而无法有效删除边。为应对这些局限，我们提出GNNDelete，一种新颖的模型无关的分层算子，针对图遗忘优化两个关键属性，即已删边一致性（Deleted Edge Consistency）和邻域影响（Neighborhood Influence）。已删边一致性确保被删元素的影响从模型权重和邻域表示中移除，而邻域影响保证删除后其余模型知识得以保留。GNNDelete更新表示以从模型中删除节点和边，同时保留其余学到的知识。我们在七个真实世界图上实验，表明GNNDelete在边、节点和节点特征删除任务上比现有方法高出至多38.8%（AUC），在区分已删边与未删边上高出32.2%。此外，GNNDelete高效，在WordNet18上比从头重训练GNN少花12.3倍时间、少占9.3倍空间。
引用
@article{arxiv.2302.13406,
title = {GNNDelete: A General Strategy for Unlearning in Graph Neural Networks},
author = {Jiali Cheng and George Dasoulas and Huan He and Chirag Agarwal and Marinka Zitnik},
journal= {arXiv preprint arXiv:2302.13406},
year = {2023}
}
备注
Accepted to ICLR2023