探究联邦学习的对抗鲁棒性
机器学习
2023-02-21 v1 人工智能
密码学与安全
摘要
在联邦学习 (FL) 中，模型在面对对抗样本时与集中式训练的模型一样脆弱。然而，联邦学习的对抗鲁棒性在很大程度上仍未被探索。本文揭示了联邦学习在对抗鲁棒性方面面临的挑战。为更好地理解现有 FL 方法的对抗脆弱性，我们对各种攻击和对抗训练方法进行了全面的鲁棒性评估。此外，我们揭示了在 FL 中直接采用对抗训练所带来的负面影响，这会严重损害测试精度，尤其是在非独立同分布（non-IID）设置下。在这项工作中，我们提出了一种名为基于决策边界的联邦对抗训练（DBFAT）的新算法，该算法包含两个组成部分（局部重加权和全局正则化），以同时提高 FL 系统的精度和鲁棒性。在多个数据集上进行的大量实验表明，DBFAT 在独立同分布（IID）和非独立同分布（non-IID）设置下均能持续优于其他基线方法。
引用
@article{arxiv.2302.09479,
title = {Delving into the Adversarial Robustness of Federated Learning},
author = {Jie Zhang and Bo Li and Chen Chen and Lingjuan Lyu and Shuang Wu and Shouhong Ding and Chao Wu},
journal= {arXiv preprint arXiv:2302.09479},
year = {2023}
}
备注
Accepted by AAAI 2023