分布式学习的涡轮模型攻击算法
分布式、并行与集群计算
2024-10-08 v1
摘要
我们探讨了在分布式学习系统中进行模型训练的拜占庭攻击问题。虽然确保当前模型训练过程的收敛性，常见求解器（如 SGD、Adam、RMSProp 等）容易受到这些系统中恶意节点的攻击。因此，训练过程可能收敛缓慢甚至发散。为了开发有效的安全分布式学习求解器，关键是首先检查攻击方法来评估这些求解器的鲁棒性。在本工作中，我们通过最初指出有限范数攻击的局限性，随后引入涡轮攻击，该攻击已被证明比有限范数攻击更有效。通过数值实验，我们评估了涡轮攻击在各种梯度聚合规则下的效果。
引用
@article{arxiv.2410.05161,
title = {A Seesaw Model Attack Algorithm for Distributed Learning},
author = {Kun Yang and Tianyi Luo and Yanjie Dong and Aohan Li},
journal= {arXiv preprint arXiv:2410.05161},
year = {2024}
}
备注
Accepted for presentation at IEEE SmartIoT 2024