Cognac 一击：图神经网络的纠错式遗忘
机器学习
2025-06-10 v4 人工智能
密码学与安全
摘要
图神经网络（GNNS）越来越多地被用于图数据上的各种机器学习应用。由于图数据不遵循独立同分布（i.i.d.）假设， Adversarial 操作或错误数据可以通过消息传递传播到其他数据点，这会损害模型的性能。为了允许模型开发人员从训练好的图神经网络中移除被操纵实体的不利影响，我们研究了最近提出的纠错遗忘问题。我们发现，当前的图 unlearning 方法即使知道整个被操纵的集合，仍无法遗忘操纵的效果。我们引入一种新的图 unlearning 方法Cognac，即使仅识别其中的5%，也能遗忘操纵集合的效果。它在已知被操纵训练数据的强力 oracle 大部分性能恢复，甚至在没有删除集合的情况下也能超越从头重新训练。而且效率是原来的8倍。我们希望我们的工作帮助 GNN 开发者减轻现实数据中问题造成的有害影响。我们的代码已公开available at https://github.com/cognac-gnn-unlearning/corrective-unlearning-for-gnns
引用
@article{arxiv.2412.00789,
title = {A Cognac Shot To Forget Bad Memories: Corrective Unlearning for Graph Neural Networks},
author = {Varshita Kolipaka and Akshit Sinha and Debangan Mishra and Sumit Kumar and Arvindh Arun and Shashwat Goel and Ponnurangam Kumaraguru},
journal= {arXiv preprint arXiv:2412.00789},
year = {2025}
}
备注
In Proceedings of ICML 2025