面向局部私有图学习协议的数据投毒攻击：魔鬼之手
机器学习
2025-06-27 v2 密码学与安全
摘要
图神经网络(GNNs)在图表示学习中取得显著成功，并应用于多个领域。然而，许多实际图中包含敏感个人信息，如社交网络中的用户档案，引发严重隐私担忧。为此，局部差分隐私(LDP)的图学习协议受到广泛关注。这些协议利用LDP的隐私优势以及GNN消息传递在校准噪声数据方面的有效性，为用户的本地数据提供严格的隐私保障，同时保持高实用性（如节点分类准确率）。尽管存在这些优势，但这些协议可能易受数据投毒攻击威胁，此类威胁在以往研究中尚未被考虑。鉴于这一点，识别和应对这些威胁对确保隐私保护图学习框架的鲁棒性和安全性至关重要。本文引入了首个针对局部私有图学习协议的数据投毒攻击。攻击者注入虚假用户，操控这些用户与真实用户建立链接，发送精心设计的数据至服务器，从而最终损害私有图学习的实用性。该攻击在理论和实证层面均证明了其有效性。此外，还探索了几种防御策略，但其有限的效果凸显了需要更健壮防御的需求。
引用
@article{arxiv.2506.09803,
title = {Devil's Hand: Data Poisoning Attacks to Locally Private Graph Learning Protocols},
author = {Longzhu He and Chaozhuo Li and Peng Tang and Li Sun and Sen Su and Philip S. Yu},
journal= {arXiv preprint arXiv:2506.09803},
year = {2025}
}