FedSecurity：联邦学习与联邦大语言模型中的攻击与防御基准测试
密码学与安全
2024-06-24 v5 人工智能
摘要
本文介绍 FedSecurity，一个端到端基准，作为 FedML 库的补充组件，用于模拟联邦学习（FL）中的对抗攻击及相应防御机制。FedSecurity 消除了从头实现基础 FL 流程（如 FL 训练与数据加载）的需要，从而使用户能够专注于开发自身的攻击与防御策略。它包含两个关键组件：FedAttacker 在 FL 训练期间执行多种攻击，以及 FedDefender 实现防御机制以抵消这些攻击。FedSecurity 具有以下特性：i) 提供广泛定制选项以适配多种机器学习模型（如 Logistic Regression、ResNet 和 GAN）与 FL 优化器（如 FedAVG、FedOPT 和 FedNOVA）；ii) 支持探索不同数据集与模型下攻击与防御的有效性；iii) 通过配置文件与若干 API 支持灵活配置与定制。我们进一步通过大语言模型（LLMs）的联邦训练展示 FedSecurity 的效用与适应性，以彰显其在广泛复杂应用上的潜力。
引用
@article{arxiv.2306.04959,
title = {FedSecurity: Benchmarking Attacks and Defenses in Federated Learning and Federated LLMs},
author = {Shanshan Han and Baturalp Buyukates and Zijian Hu and Han Jin and Weizhao Jin and Lichao Sun and Xiaoyang Wang and Wenxuan Wu and Chulin Xie and Yuhang Yao and Kai Zhang and Qifan Zhang and Yuhui Zhang and Carlee Joe-Wong and Salman Avestimehr and Chaoyang He},
journal= {arXiv preprint arXiv:2306.04959},
year = {2024}
}