非独立同分布数据下的集成联邦对抗训练
机器学习
2021-10-29 v1 人工智能
摘要
尽管联邦学习在保护数据隐私与安全的前提下赋予了分布式客户端一种协作训练模式，但由于缺乏鲁棒性，客户端在遭遇对抗样本时仍显脆弱。对抗样本可通过向正常输入中注入精心设计的噪声来混淆和欺骗客户端模型以达到恶意目的。本文提出一种新颖的集成联邦对抗训练方法，称为 EFAT，其实现了一种高效且鲁棒的耦合训练机制。我们的核心思想是通过利用其他参与客户端生成的不同扰动来扩展训练数据，从而增强对抗样本的多样性，这有助于对抗训练在非独立同分布（Non-IID）设置下表现良好。在包括特征分布偏斜与标签分布偏斜的不同 Non-IID 情境下的实验结果表明，与仅将联邦学习与对抗方法相结合的方案相比，我们提出的方法取得了令人满意的结果。
引用
@article{arxiv.2110.14814,
title = {Ensemble Federated Adversarial Training with Non-IID data},
author = {Shuang Luo and Didi Zhu and Zexi Li and Chao Wu},
journal= {arXiv preprint arXiv:2110.14814},
year = {2021}
}