通过投影高效遗忘图表示学习中已学内容
机器学习
2023-02-20 v1 人工智能
摘要
随着隐私保护受到广泛关注，从预训练的图学习模型中遗忘特定节点的影响变得同等重要。然而，由于图结构数据中的节点依赖性，图神经网络（GNNs）中的表示遗忘具有挑战性且探索较少。本文通过首先研究线性GNN中的遗忘问题，然后将其扩展到非线性结构来填补这一空白。给定一组要遗忘的节点，我们提出PROJECTOR，它通过将预训练模型的权重参数投影到与待遗忘节点特征无关的子空间来实现遗忘。PROJECTOR能够克服由节点依赖性带来的挑战，并享有完美的数据移除，即遗忘后的模型参数不包含任何关于被遗忘节点特征的信息，这一点由算法构造保证。在真实世界数据集上的实证结果展示了PROJECTOR的有效性和效率。
引用
@article{arxiv.2302.08990,
title = {Efficiently Forgetting What You Have Learned in Graph Representation Learning via Projection},
author = {Weilin Cong and Mehrdad Mahdavi},
journal= {arXiv preprint arXiv:2302.08990},
year = {2023}
}