MixTailor：面向抵御定制化攻击的鲁棒学习的混合梯度聚合
机器学习
2022-09-26 v2 密码学与安全
摘要
SGD 在分布式系统上的实现产生了新的漏洞，可被一个或多个对抗智能体识别并滥用。最近研究表明，已知的拜占庭弹性梯度聚合方案实际上易受知情攻击者的攻击，此类攻击者能够定制攻击（Fang et al., 2020; Xie et al., 2020b）。我们提出 MixTailor，一种基于聚合策略随机化的方案，使攻击者无法完全知情。确定性方案可即时集成到 MixTailor 中，无需引入额外超参数。随机化降低了强大对手定制攻击的能力，同时所得随机化聚合方案在性能上仍具竞争力。针对 iid 与非 iid 设定，我们建立了几乎必然收敛保证，其强度与一般性均优于现有文献。我们在多种数据集、攻击与设定下的实证研究验证了我们的假设，并表明当知名拜占庭容忍方案失效时 MixTailor 能成功防御。
引用
@article{arxiv.2207.07941,
title = {MixTailor: Mixed Gradient Aggregation for Robust Learning Against Tailored Attacks},
author = {Ali Ramezani-Kebrya and Iman Tabrizian and Fartash Faghri and Petar Popovski},
journal= {arXiv preprint arXiv:2207.07941},
year = {2022}
}
备注
To appear at the Transactions on Machine Learning Research (TMLR)