分层联邦学习：从通信节省到体系结构感知设计的网络 AI
机器学习
2026-05-05 v1 分布式、并行与集群计算
信息论
math.IT
摘要
联邦学习 (FL) 本质上是由具有本地数据、本地计算和部分系统可见性的通信代理人执行的分布式优化问题。一旦将 FL 视为此类视角，层次结构不仅是一种可扩展机制，更是重新思考如何在真实多层网络上组织分布式优化的自然场所。本文认为，分层联邦学习 (HFL) 应超越将其常规框架视为通信节省协议的做法，转而视为面向网络 AI 的体系结构感知设计框架。该框架围绕三个相互关联的设计轴展开：体系结构参数、层次化优化分解和层次化通信实现。第一个轴通过层次深度、层级不对称性和分层连通性确定学习的协调几何。第二个轴决定全球 FL 目标在各层上的分解方式，突出超越单一处处使用主导方法的模块化多层优化的重大机遇。第三个轴决定了在异构通信场景下分布式优化的物理实现，从受干扰的下层层级到可靠的上层层级。核心论点是，在 HFL 中，收敛性取决于体系结构：它直接受所选层次结构、分配的优化角色以及连接它们的通信机制的影响。我们以大规模无线边缘智能为典型网络 AI 场景开发了此观点，然后提供了平坦 FL、两层 HFL 和深层 HFL 的比较视角，以及基于情形的设计图。最终的视角将 HFL 定位为设计未来网络 AI 系统的实用方法。
引用
@article{arxiv.2605.00931,
title = {Hierarchical Federated Learning for Networked AI: From Communication Saving to Architecture-Aware Design},
author = {Seyed Mohammad Azimi-Abarghouyi and Mehdi Bennis and Leandros Tassiulas},
journal= {arXiv preprint arXiv:2605.00931},
year = {2026}
}