去中心化联邦学习中的初始化与网络效应
机器学习
2025-05-23 v4 人工智能
分布式、并行与集群计算
物理与社会
摘要
完全去中心化的联邦学习能够在分布式通信设备网络上协作训练个体机器学习模型，同时将训练数据保留在每个节点本地。这种方法避免了中心协调，增强了数据隐私，并消除了单点故障风险。我们的研究强调，去中心化联邦学习的有效性显著受连接设备的网络拓扑结构和学习模型的初始条件影响。我们提出了一种基于底层通信网络的特征向量中心性分布的人工神经网络非协调初始化策略，从而大幅提高训练效率。此外，我们的研究探索了在所提出的初始化策略下的缩放行为和环境参数选择。这项工作为在分布式和非协调环境中更高效、可扩展的人工神经网络训练铺平了道路，并提供了对网络结构和学习动力学交织作用的更深入理解。
引用
@article{arxiv.2403.15855,
title = {Initialisation and Network Effects in Decentralised Federated Learning},
author = {Arash Badie-Modiri and Chiara Boldrini and Lorenzo Valerio and János Kertész and Márton Karsai},
journal= {arXiv preprint arXiv:2403.15855},
year = {2025}
}