面向可扩展图无学习:基于节点影响最大化的方法
机器学习
2025-01-22 v1 人工智能
数据库
社会与信息网络
摘要
机器无学习作为提升模型鲁棒性和数据隐私的关键技术,在吸引越来越多的注意力,尤其是在盛行的 web 矿业应用中,特别是在活跃的图基场景中。然而,大多数现有的图无学习(GU)方法面临由于 web 规模图元素在模型训练期间复杂相互作用的挑战:(1) 梯度驱动的节点纠缠阻碍了对无学习请求的完整知识移除;(2) web 场景中数十亿级别的图元素不可避免地带来可扩展性问题。为突破上述限制,我们从连接 GU 与常规社会影响最大化的角度开辟了新的视角。为此,我们提出了节点影响最大化(NIM),通过解耦的影响传播模型和细粒度影响函数以可扩展方式实现,以用于识别可能受无学习实体影响的节点。该方法允许独立于 GU 进行离线执行,能够无缝集成到大多数 GU 方法中以提高其无学习性能。基于此,我们引入 Scalable Graph Unlearning(SGU)作为一种新的精调框架,通过实体特定的优化实现对无学习模型的遗忘与推理能力的平衡。广泛的在 14 个数据集上的实验,包括大规模 ogbn-papers100M,都证明了该方法的有效性。具体而言,NIM 提升了大多数 GU 方法的遗忘能力,而 SGU 实现了全面的 SOTA 性能并保持可扩展性。
引用
@article{arxiv.2501.11823,
title = {Toward Scalable Graph Unlearning: A Node Influence Maximization based Approach},
author = {Xunkai Li and Bowen Fan and Zhengyu Wu and Zhiyu Li and Rong-Hua Li and Guoren Wang},
journal= {arXiv preprint arXiv:2501.11823},
year = {2025}
}
备注
Under Review