TESSERACT：基于梯度翻转分数保护联邦学习抵御模型投毒攻击
机器学习
2021-10-20 v1
摘要
联邦学习——在去中心化环境中的多方分布式学习——易受模型投毒攻击，甚至比集中式学习方法更甚。这是因为恶意客户端可串通并发送精心定制的模型更新以使全局模型不准确。这促使了拜占庭鲁棒联邦学习算法的发展，如 Krum、Bulyan、FABA 和 FoolsGold。然而，最近开发的一种无目标模型投毒攻击表明所有先前的防御均可被绕过。该攻击利用的直觉是：仅通过为一组合法客户端改变优化器所计算梯度更新的符号，就可使模型偏离最优点从而提高测试错误率。在本工作中，我们开发了 TESSERACT——一种针对这种定向偏移攻击（一种最先进的模型投毒攻击）的防御。TESSERACT 基于一个简单直觉：在联邦学习设置中，某些梯度翻转模式预示着攻击的发生。这一直觉在不同学习算法、模型和数据集上异常稳定。TESSERACT 根据参与客户端在训练阶段的行为分配声誉分数，然后取客户端的加权贡献。我们展示了 TESSERACT 即便针对该攻击的白盒版本也提供鲁棒性。
引用
@article{arxiv.2110.10108,
title = {TESSERACT: Gradient Flip Score to Secure Federated Learning Against Model Poisoning Attacks},
author = {Atul Sharma and Wei Chen and Joshua Zhao and Qiang Qiu and Somali Chaterji and Saurabh Bagchi},
journal= {arXiv preprint arXiv:2110.10108},
year = {2021}
}
备注
12 pages