潜伏于阴影之中：揭示面向个性化联邦学习的隐蔽后门攻击
机器学习
2024-06-11 v1 密码学与安全
摘要
联邦学习是一种多客户端与中心服务器协同训练全局模型的机器学习技术，无需共享私有数据。然而，跨越非独立同分布（non-IID）数据集的客户端分布性偏移，构成了该单一模型适用于一切场景方法的挑战，阻碍了全局模型有效适应每个客户端独特本地数据的能力。为呼应这一挑战，个性化联邦学习（PFL）被设计为允许每个客户端创建量身定制其私有数据的个人化本地模型。尽管已有大量研究聚焦于联邦学习中的后门风险，但在PFL应用领域仍鲜有探讨。本文深入剖析PFL系统对后门攻击的脆弱性。我们的分析呈现两座城市的故事：一方面，PFL中的个性化过程可稀释注入至个人化本地模型中的后门投毒效应。此外，PFL系统可部署服务器端及客户端防御机制，以强化对后门攻击的防御壁垒。另一方面，我们的研究表明，融合这些防御方法的PFL可能提供一种虚假的安全感。我们提出一种适用于PFL系统的隐蔽且高效的后门攻击策略——\textit{PFedBA}。\textit{PFedBA}巧妙地将后门学习任务与PFL的主要学习任务对齐，通过优化触发器生成过程实现。这一策略在10种最新PFL算法中均表现出色，成功击败了现有6种防御机制。本文阐明了潜伏于阴影之中的强大后门威胁，呼吁社区加强对新兴后门挑战的防御。
引用
@article{arxiv.2406.06207,
title = {Lurking in the shadows: Unveiling Stealthy Backdoor Attacks against Personalized Federated Learning},
author = {Xiaoting Lyu and Yufei Han and Wei Wang and Jingkai Liu and Yongsheng Zhu and Guangquan Xu and Jiqiang Liu and Xiangliang Zhang},
journal= {arXiv preprint arXiv:2406.06207},
year = {2024}
}
备注
Accepted by Usenix Security 2024