基于排序和模仿学习的联邦学习客户端选择

联邦学习（FL）使多个设备能够在确保数据隐私的同时协同训练共享模型。每个训练轮次中参与设备的选择对模型性能和训练效率至关重要，尤其是考虑到设备在训练能力和数据分布方面的巨大异构性。在解决这些挑战方面，我们引入一种新颖的设备选择解决方案，称为FedRank，这是一种以模仿学习预训练的端到端、基于排序的方法。它不仅考虑运行时的模型和系统异构性，还能自适应且高效地选择最合适的客户机进行模型训练。具体而言，FedRank将联邦学习中的客户端选择视为排序问题，并采用两两训练策略进行智能选择过程。此外，设计了一种基于模仿学习的方法来抵消联邦学习中基于学习的方法常看到的冷启动问题。实验结果表明，\model~通过提升5.2%至56.9%的模型准确率，加快训练收敛速度最高可达$2.01 \times$，节省能源消耗最高可达$40.1$。