基于可迁移凝练的数据中心图卸载
机器学习
2024-10-10 v1
摘要
随着数据隐私和模型鲁棒性需求的不断增长,图卸载(GU)——即擦除特定数据对训练得到的图神经网络模型影响的技术——受到了广泛关注。然而,现有的精确卸载方法要么效率低,要么模型性能差。虽然更具实用性和高效的当前近似卸载方法在零视角隐私设置下不可用——即由于监管要求的立即删除,删除的样本在卸载期间无法被访问。此外,这些近似方法尝试直接扰动模型参数时仍涉及较高的隐私问题。为填补这一空白,我们提出Transferable Condensation Graph Unlearning(TCGU),一种针对零视角图卸载的数据中心解决方案。具体而言,我们首先设计了两级对齐策略,将原始图预凝练成一个小而保持实用性的数据集。收到卸载请求后,我们使用低秩插件对预凝练数据进行微调,直接将其分布与剩余图对齐,从而在不访问被删除样本的情况下高效地撤销被删除数据的信息。我们提出了一种新颖的相似度分布匹配方法和一个判别正则化器,以有效地在GNN训练中迁移凝练数据并保持其实用性。最后,我们在转移后的凝练数据上重新训练GNN。在6个基准数据集上的大量实验表明,TCGU在模型实用性、卸载效率和卸载效果方面均优于现有的GU方法。
引用
@article{arxiv.2410.06480,
title = {TCGU: Data-centric Graph Unlearning based on Transferable Condensation},
author = {Fan Li and Xiaoyang Wang and Dawei Cheng and Wenjie Zhang and Ying Zhang and Xuemin Lin},
journal= {arXiv preprint arXiv:2410.06480},
year = {2024}
}
备注
14 pages, 18 figures