联邦学习后门防御的脆弱性研究
机器学习
2023-01-20 v1 人工智能
密码学与安全
摘要
联邦学习（FL）是一种流行的分布式机器学习范式，能够在无需共享客户端数据的情况下联合训练全局模型。然而，其反复进行的服务器-客户端通信为后门攻击留下了空间，此类攻击旨在当呈现特定触发模式时误导全局模型产生定向误预测。针对联邦学习中的此类后门威胁，已有多种防御措施被提出。在本文中，我们研究当前的防御机制是否能在实际环境中真正消除联邦学习的后门威胁，为此提出了一种用于可能对策的新型联邦后门攻击方法。与传统的基于（触发数据）训练和（恶意客户端模型）重缩放的后门注入不同，所提出的后门攻击框架（1）直接修改（一小部分）局部模型权重，通过符号翻转注入后门触发；（2）将触发模式与客户端模型联合优化，从而更具持久性和隐蔽性，可规避现有防御。在案例研究中，我们考察了近期来自三大类的联邦后门防御的优劣势，并为从业者在实践中训练联邦模型时提供建议。
引用
@article{arxiv.2301.08170,
title = {On the Vulnerability of Backdoor Defenses for Federated Learning},
author = {Pei Fang and Jinghui Chen},
journal= {arXiv preprint arXiv:2301.08170},
year = {2023}
}
备注
Accepted by AAAI 2023 (15 pages, 12 figures, 7 tables)