面向去中心化多智能体学习的通信高效训练负载均衡
摘要
去中心化多智能体学习（DML）能够在保护数据隐私的同时实现协作模型训练。然而，智能体资源（计算、通信和任务规模）固有的异构性可能导致训练时间的显著差异。这种异构性造成了瓶颈，由于落后者效应延长了整体训练时间，并可能浪费较快智能体的闲置资源。为了在异构环境中最小化训练时间，我们提出了一种面向去中心化多智能体学习的通信高效训练负载均衡方法，该方法通过去中心化的方式在智能体之间均衡负载。利用局部损失拆分训练，ComDML 实现了并行更新，其中较慢的智能体将部分负载卸载给较快的智能体。为了最小化整体训练时间，ComDML 通过整数规划联合考虑智能体的通信和计算能力来优化负载均衡。我们开发了一个动态去中心化配对调度器，以高效地配对智能体并确定最优卸载量。我们证明了在 ComDML 中，对于凸函数和非凸函数，较慢和较快智能体的模型均能收敛。此外，在流行数据集（CIFAR-10、CIFAR-100 和 CINIC-10）及其非独立同分布变体上，使用 ResNet-56 和 ResNet-110 等大型模型进行的广泛实验结果表明，与最先进的方法相比，ComDML 能够在保持模型准确率的同时显著减少整体训练时间。ComDML 在异构环境中展现出鲁棒性，并且隐私保护措施可以无缝集成以增强数据保护。
关键词
引用
@article{arxiv.2405.00839,
title = {Communication-Efficient Training Workload Balancing for Decentralized Multi-Agent Learning},
author = {Seyed Mahmoud Sajjadi Mohammadabadi and Lei Yang and Feng Yan and Junshan Zhang},
journal= {arXiv preprint arXiv:2405.00839},
year = {2024}
}
备注
This paper has been accepted for presentation at ICDCS (44th IEEE International Conference on Distributed Computing Systems). Keywords: decentralized multi-agent learning, federated learning, edge computing, heterogeneous agents, workload balancing, and communication-efficient training )