图神经网络上的节点级对比性遗忘学习
机器学习
2025-03-06 v1 密码学与安全
摘要
图遗忘学习旨在从在图上训练的图神经网络（GNN）中移除一组图实体（即节点和边）。与在欧几里得结构数据上训练的模型的机器学习遗忘学习不同，有效遗忘在非欧几里得结构数据（如图上）训练的模型是具有挑战性的，因为图实体表现出相互依赖关系。现有工作利用图划分、影响函数或额外层来实现图遗忘学习。然而，它们都没有在不增加额外约束的情况下实现高可扩展性和有效性。在本文中，我们通过利用嵌入空间实现了更有效的图遗忘学习。GNN的主要训练目标是为每个节点生成适当的嵌入，以封装结构信息和节点特征表示。因此，直接优化嵌入空间可以有效移除目标节点的信息。基于这一思路，我们提出了节点级对比性遗忘学习（Node-CUL）。它通过对比剩余节点与遗忘节点邻居的嵌入来移除遗忘节点的影响。通过迭代更新，遗忘节点的嵌入逐渐变得与未见节点相似，从而在不直接引入未见数据的情况下有效移除已学信息。此外，我们引入了一种邻域重建方法，用于优化邻居的嵌入，以移除遗忘节点的影响并保持GNN模型的效用。在各种图数据和模型上的实验表明，我们的Node-CUL在达到最佳遗忘效果和增强模型效用的同时，所需的计算资源与现有框架相当。
引用
@article{arxiv.2503.02959,
title = {Node-level Contrastive Unlearning on Graph Neural Networks},
author = {Hong kyu Lee and Qiuchen Zhang and Carl Yang and Li Xiong},
journal= {arXiv preprint arXiv:2503.02959},
year = {2025}
}