无线联邦学习中的收敛加速：一种斯塔克伯格博弈方法
机器学习
2024-06-18 v2
摘要
本文研究无线网络上联邦学习（FLOWN）中收敛时间的联合优化相关问题。我们考虑 FLOWN 中在能量约束下参与设备选择的标准与协议，并推导其对设备选择的影响。为提高训练效率，信息年龄（AoI）使 FLOWN 能够评估参与者间梯度更新的新鲜度。为加速收敛，我们基于斯塔克伯格博弈框架联合研究全局损失最小化与延迟最小化。具体而言，我们将全局损失最小化表述为领导者层问题以减少所需轮数，将延迟最小化表述为跟随者层问题以减少每轮的时间消耗。通过将跟随者层问题解耦为资源分配和子信道分配两个子问题，我们通过单调优化与匹配理论得到跟随者的最优策略。在领导者层，我们推导收敛速率的上界，随后重构全局损失最小化问题，并提出一种基于更新年龄（AoU）的新设备选择算法。仿真结果表明，所提出的基于 AoU 的设备选择方案在收敛速率方面具有优越性能，并对可用子信道实现了高效利用。
引用
@article{arxiv.2209.06623,
title = {Convergence Acceleration in Wireless Federated Learning: A Stackelberg Game Approach},
author = {Kaidi Wang and Yi Ma and Mahdi Boloursaz Mashhadi and Chuan Heng Foh and Rahim Tafazolli and Zhi Ding},
journal= {arXiv preprint arXiv:2209.06623},
year = {2024}
}