揭示基础模型在异构联邦学习中带来的后门风险
分布式、并行与集群计算
2023-12-01 v1
摘要
基础模型（FMs）已被用于为异构联邦学习（HFL）问题生成合成公共数据集，其中每个客户端使用独特的模型架构。然而，在 HFL 背景下集成 FMs 的脆弱性，尤其是针对后门攻击的脆弱性，尚未得到充分探索。本文为 HFL 引入了一种新颖的后门攻击机制，该机制规避了妥协客户端或持续参与 FL 过程的需求。此方法通过生成的合成公共数据集植入并转移后门，可通过呈现正常客户端行为来帮助规避 FL 中现有的后门防御。在不同 HFL 配置和基准数据集上的实证实验证明了我们的攻击相较于传统基于客户端的攻击的有效性。我们的发现揭示了开发鲁棒的 FM 辅助 HFL 系统中的重大安全风险。本研究有助于提升 FL 系统的安全性与完整性，凸显了在 FMs 时代需要先进的安全措施。
引用
@article{arxiv.2311.18350,
title = {Unveiling Backdoor Risks Brought by Foundation Models in Heterogeneous Federated Learning},
author = {Xi Li and Chen Wu and Jiaqi Wang},
journal= {arXiv preprint arXiv:2311.18350},
year = {2023}
}
备注
Jiaqi Wang is the corresponding author. arXiv admin note: text overlap with arXiv:2311.00144