Q-SHED：基于海森特征向量量化的边缘端分布式优化
系统与控制
2023-05-19 v1 机器学习
多智能体系统
系统与控制
最优化与控制
摘要
边缘网络需要通信高效（低开销）且鲁棒的分布式优化（DO）算法。事实上，在数据与系统异构存在、且节点间通信为主要瓶颈的场景中，这些是DO框架（如联邦边缘学习技术）所期望的特性。尽管计算开销大，牛顿型（NT）方法近来被倡导用于在边缘设备具备足够算力的困难DO问题中实现鲁棒收敛速率。沿着这一思路，本文提出Q-SHED，一种用于DO的新型NT算法，其特点是基于增量海森特征向量量化的新颖比特分配方案。所提技术与近期的SHED算法相集成，从中继承了所需海森计算次数少等吸引人的特性，同时在比特分辨率层面具备带宽灵活性。我们针对竞争方法的实证评估表明，Q-SHED可将收敛所需的通信轮数最多减少60%。
引用
@article{arxiv.2305.10852,
title = {Q-SHED: Distributed Optimization at the Edge via Hessian Eigenvectors Quantization},
author = {Nicolò Dal Fabbro and Michele Rossi and Luca Schenato and Subhrakanti Dey},
journal= {arXiv preprint arXiv:2305.10852},
year = {2023}
}