基于近似有限时共识的去中心化学习
信号处理
2025-01-15 v1
摘要
去中心化优化算法的性能受优化误差和共识误差的影响,后者源于各agent本地模型之间的差异。经典方法采用恒定组合矩阵的平均和梯度跟踪机制,以驱动agent集合达到共识。近期研究表明,使用实现有限时共识(FTC)的组合矩阵序列可提高通信效率或迭代复杂度。值得注意的是,这些研究仅适用于高度结构化的网络,因而可精确且闭式求解有限时共识序列。在本工作中,我们研究了在去中心化学习算法中利用近似FTC矩阵的影响,并量化近似误差对收敛速率和稳态性能的影响。近似FTC矩阵可为一般图推导,不依赖特定图结构或先验知识,使其在广泛的去中心化学习场景中具有应用价值。
引用
@article{arxiv.2501.07967,
title = {Decentralized Learning with Approximate Finite-Time Consensus},
author = {Aaron Fainman and Stefan Vlaski},
journal= {arXiv preprint arXiv:2501.07967},
year = {2025}
}
备注
5 pages, 4 figures