多多益善(大体上):联邦图神经网络中的后门攻击研究
密码学与安全
2024-12-10 v6 机器学习
摘要
图神经网络(GNNs)是一类基于深度学习处理图域信息的方法。因其学习复杂图数据表示的优越能力,GNNs 近年已成为广泛使用的图分析方法。然而,出于隐私关切与监管限制,集中式 GNNs 难以应用于数据敏感场景。联邦学习(FL)是一项为隐私保护环境下多方协同训练共享全局模型而兴起的技术。尽管已有若干研究将 FL 应用于训练 GNNs(联邦 GNNs),但尚无关于其对后门攻击鲁棒性的研究。本文通过实施两类联邦 GNNs 中的后门攻击填补此空白:集中式后门攻击(CBA)与分布式后门攻击(DBA)。我们的实验表明,在几乎所有评估情形下 DBA 的攻击成功率均高于 CBA。对于 CBA,即便对抗方的训练集嵌入了全局触发器,所有局部触发器的攻击成功率仍与全局触发器相近。为进一步探究两类后门攻击在联邦 GNNs 中的性质,我们评估了不同客户端数量、触发器大小、投毒强度与触发器密度下的攻击性能。此外,我们探究了 DBA 与 CBA 对一种防御的鲁棒性。我们发现两种攻击对该防御均具鲁棒性,这亟需将联邦 GNNs 中的后门攻击视为一种需要定制防御的新型威胁。
引用
@article{arxiv.2202.03195,
title = {More is Better (Mostly): On the Backdoor Attacks in Federated Graph Neural Networks},
author = {Jing Xu and Rui Wang and Stefanos Koffas and Kaitai Liang and Stjepan Picek},
journal= {arXiv preprint arXiv:2202.03195},
year = {2024}
}
备注
15 pages, 13 figures