针对无线联邦学习的数据与模型投毒后门攻击及防御机制：综合综述
密码学与安全
2023-12-15 v1 人工智能
摘要
由于设备能力的极大提升、海量数据以及对数据隐私的日益关注，联邦学习（Federated Learning, FL）越来越被考虑应用于无线通信网络（Wireless Communication Networks, WCNs）。无线联邦学习（Wireless FL, WFL）是一种训练全局深度学习模型的分布式方法，其中大量参与者各自在其训练数据集上训练本地模型，然后将本地模型更新上传至中央服务器。然而，通常情况下，WCN 中非独立同分布（non-IID）的数据引发了关于鲁棒性的担忧，因为恶意参与者可能通过 WCN 上传投毒的数据或模型，从而将“后门”注入全局模型。这可能导致模型将恶意输入错误分类为特定目标类别，同时对良性输入表现正常。本综述对最新的后门攻击与防御机制进行了全面回顾。根据其目标（数据投毒或模型投毒）、攻击阶段（本地数据收集、训练或聚合）和防御阶段（本地训练、聚合前、聚合中或聚合后）对它们进行分类。详细分析了现有攻击策略和防御机制的优势与局限性。对现有攻击方法和防御设计进行了比较，指出了与 WFL 安全和隐私相关的值得注意的发现、开放挑战以及潜在的未来研究方向。
引用
@article{arxiv.2312.08667,
title = {Data and Model Poisoning Backdoor Attacks on Wireless Federated Learning, and the Defense Mechanisms: A Comprehensive Survey},
author = {Yichen Wan and Youyang Qu and Wei Ni and Yong Xiang and Longxiang Gao and Ekram Hossain},
journal= {arXiv preprint arXiv:2312.08667},
year = {2023}
}