联邦图学习中的分布式后门攻击与认证防御
密码学与安全
2024-07-15 v1
摘要
联邦图学习(FedGL)是一种新兴的联邦学习(FL)框架，它将FL扩展到从不同来源学习图数据。针对非图数据的FL已被证明易受后门攻击，这种攻击将共享的后门触发器注入训练数据，使得训练后的带后门FL模型能够按照攻击者的意图预测包含触发器的测试数据。然而，FedGL抵御后门攻击的研究在很大程度上尚未探索，且不存在有效的防御。本文旨在解决这一重大缺陷。首先，我们提出了一种针对FedGL的有效、隐蔽且持久的后门攻击。我们的攻击使用子图作为触发器，并设计了一个自适应触发器生成器，可以为每个图推导出有效的触发器位置和形状。我们的攻击表明，经验性防御难以检测/移除我们生成的触发器。为了缓解这一问题，我们进一步为任何带后门的FedGL模型开发了一种针对任意位置任意形状触发器的认证防御。我们的防御包括将测试图仔细划分为多个子图，并基于这些子图设计一个多数投票的集成分类器。然后，我们基于集成分类器推导出确定性的认证鲁棒性，并证明其紧致性。我们在六个图数据集上广泛评估了我们的攻击和防御。我们的攻击结果表明，我们的攻击在几乎所有数据集上都能获得>90%的后门准确率。我们的防御结果表明，在某些情况下，针对大小为20的任意触发器，干净测试图的认证准确率可以接近无攻击下的正常准确率，而在其他情况下存在中等差距。此外，对于由我们的攻击生成的带后门测试图，认证后门准确率始终为0，这意味着我们的防御可以完全缓解攻击。源代码可在https://github.com/Yuxin104/Opt-GDBA获取。
引用
@article{arxiv.2407.08935,
title = {Distributed Backdoor Attacks on Federated Graph Learning and Certified Defenses},
author = {Yuxin Yang and Qiang Li and Jinyuan Jia and Yuan Hong and Binghui Wang},
journal= {arXiv preprint arXiv:2407.08935},
year = {2024}
}
备注
This paper is accepted to CCS2024