MISA：揭示分割联邦学习中的脆弱性
机器学习
2023-12-20 v2 密码学与安全
分布式、并行与集群计算
摘要
\textit{联邦学习} (FL) 和\textit{分割学习} (SL) 是近年来流行的分布式范式。两者均能在保持数据本地化于用户设备的同时实现共享全局模型训练。前者擅长并行执行能力，而后者则具有对边缘计算资源依赖低和隐私保护强的优势。\textit{分割联邦学习} (SFL) 结合了 FL 和 SL 的优势，使其成为最流行的分布式架构之一。此外，最近的一项研究声称 SFL 对投毒攻击具有鲁棒性，其鲁棒性比 FL 提高了五倍。在本文中，我们提出了一种名为 MISA 的新型投毒攻击。它同时毒化顶部模型和底部模型，导致全局模型发生\textbf{\underline{错位}} (misalignment)，最终引发准确率急剧崩溃。此次攻击揭示了 SFL 中的脆弱性，挑战了 SFL 对投毒攻击具有鲁棒性的传统观念。大量实验表明，我们提出的 MISA 对 SFL 的可用性构成了重大威胁，强调了学术界和工业界必须对此问题给予应有的关注。
引用
@article{arxiv.2312.11026,
title = {MISA: Unveiling the Vulnerabilities in Split Federated Learning},
author = {Wei Wan and Yuxuan Ning and Shengshan Hu and Lulu Xue and Minghui Li and Leo Yu Zhang and Hai Jin},
journal= {arXiv preprint arXiv:2312.11026},
year = {2023}
}
备注
This paper has been accepted by the IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2024)