有限数据资源下的图分类器遗忘
机器学习
2023-07-04 v2 密码学与安全
摘要
随着用户对隐私需求的增长，受控数据删除（机器遗忘）正成为面向数据敏感型 Web 应用（如社交网络与推荐系统）的机器学习模型的一项重要特性。然而，迄今为止关于如何对图神经网络（GNNs）进行高效机器遗忘仍知之甚少；尤其在训练样本数量较少时，遗忘会严重损害模型性能。为解决此问题，我们开创性地研究了图散射变换（GST）的遗忘，该数学框架高效、在特征或图拓扑扰动下可证明稳定，并提供可与 GNNs 相媲美的图分类性能。我们的主要贡献是基于 GST 的首个已知非线性近似图遗忘方法。第二点贡献是对所提遗忘机制计算复杂度的理论分析，这难以为深度神经网络所复现。第三点贡献是大量仿真结果，表明相较于在每次删除请求后对 GNNs 的完整重训练，新的基于 GST 的方法在从 IMDB 数据集（10% 训练比例）中遗忘 100 个训练图中的 90 个时，平均提供 10.38 倍加速，并使测试准确率提升 2.6%。我们的实现可在 https://doi.org/10.5281/zenodo.7613150 在线获取。
引用
@article{arxiv.2211.03216,
title = {Unlearning Graph Classifiers with Limited Data Resources},
author = {Chao Pan and Eli Chien and Olgica Milenkovic},
journal= {arXiv preprint arXiv:2211.03216},
year = {2023}
}
备注
12 pages. WWW 2023