经认证的联邦对抗训练
机器学习
2021-12-21 v1 密码学与安全
摘要
在联邦学习（FL）中，已开发出鲁棒聚合方案以防御恶意客户端。许多鲁棒聚合方案依赖于在工作者法定人数中存在一定数量的良性客户端。当客户端可随意加入，或基于空闲系统状态、连接电源与 WiFi 等因素加入时，这很难保证。我们解决了在工作者法定人数可能完全恶意的情况下保护进行对抗训练的 FL 系统的场景。我们建模了一个攻击者，其投毒模型以在对抗训练中插入弱点，使得模型表现出明显的对抗鲁棒性，而攻击者可利用插入的弱点绕过对抗训练并迫使模型对对抗样本误分类。我们使用抽象解释技术检测此类隐蔽攻击并阻断被污染的模型更新。我们表明该防御即使面对自适应攻击者也能保持对抗鲁棒性。
引用
@article{arxiv.2112.10525,
title = {Certified Federated Adversarial Training},
author = {Giulio Zizzo and Ambrish Rawat and Mathieu Sinn and Sergio Maffeis and Chris Hankin},
journal= {arXiv preprint arXiv:2112.10525},
year = {2021}
}
备注
First presented at the 1st NeurIPS Workshop on New Frontiers in Federated Learning (NFFL 2021)