Phocas:维度化的拜占庭弹性随机梯度下降
分布式、并行与集群计算
2018-05-25 v1 机器学习
摘要
我们提出了一种在通用拜占庭故障模型下用于分布式同步随机梯度下降(SGD)的新型鲁棒聚合规则。攻击者可任意篡改参数服务器(PS)架构中服务器与工作者之间传输的数据。我们证明了所提聚合规则的拜占庭弹性。实证分析表明,对于实际用例与拜占庭攻击场景,所提技术优于现有方法。
引用
@article{arxiv.1805.09682,
title = {Phocas: dimensional Byzantine-resilient stochastic gradient descent},
author = {Cong Xie and Oluwasanmi Koyejo and Indranil Gupta},
journal= {arXiv preprint arXiv:1805.09682},
year = {2018}
}
备注
Submitted to NIPS 2018. arXiv admin note: substantial text overlap with arXiv:1802.10116