确保高效联邦学习的模型初始化技术综合研究

机器学习领域的进步不可避免，但一个主要关切是保护用于训练这些机器学习算法的用户数据隐私。联邦学习（FL）已成为一种以分布式和隐私保护方式训练机器学习模型的有前景范式，它使各方能够协作训练全局模型而无需共享本地数据。但以正确方式在每个设备上启动该学习过程（称为“模型初始化”）至关重要。模型所用初始化方法的选择在联邦学习系统的性能、收敛速度、通信效率、隐私保证等方面起着关键作用。本综述深入对各种FL中模型初始化技术进行了综合研究。与其他研究不同，我们的研究细致比较、分类并阐明了每种技术的优缺点，考察其在不同FL场景中的适用性。我们强调了客户端差异性、数据非独立同分布性、模型水准、安全考量及网络限制等因素如何影响FL模型结果，并提出了战略化初始化可如何应对并潜在纠正诸多此类挑战。本综述的动机在于强调正确的起点有助于克服数据质量不一、安全问题及网络问题等挑战。我们的洞见为希望充分利用FL同时理解模型初始化复杂性的专家提供了基础依据。