广义拜占庭容错 SGD
分布式、并行与集群计算
2018-03-28 v3 机器学习
摘要
我们提出了三种新的鲁棒聚合规则,用于通用拜占庭故障模型下的分布式同步随机梯度下降(SGD)。攻击者可任意篡改参数服务器(PS)架构中服务器与工作者之间传输的数据。我们证明了这些聚合规则的拜占庭弹性性质。实证分析表明,所提技术在现实用例与拜占庭攻击场景下优于当前方法。
引用
@article{arxiv.1802.10116,
title = {Generalized Byzantine-tolerant SGD},
author = {Cong Xie and Oluwasanmi Koyejo and Indranil Gupta},
journal= {arXiv preprint arXiv:1802.10116},
year = {2018}
}