一种针对单层神经网络的有效且高效的绿色联邦学习方法
机器学习
2023-12-25 v1
摘要
如今，机器学习算法的复杂性不断增加，需要大量的计算资源和能源。因此，人们越来越意识到开发新型绿色算法的重要性，而分布式人工智能可以为此做出贡献。联邦学习 (FL) 是机器学习中最活跃的研究方向之一，因为它允许以分布式方式训练协作模型，这在物联网等许多现实环境中是一个有趣的选择，使得这些模型能够在边缘计算设备上使用。在本工作中，我们提出了一种基于无隐藏层神经网络的 FL 方法，能够在单个训练轮次中生成全局协作模型，这与需要多轮收敛的传统 FL 方法不同。这使得能够获得有效且高效的模型，简化了训练过程的管理。此外，该方法从设计上就保护了数据隐私，这是当前数据保护法规中的一个关键方面。我们在大型数据集和大量联邦客户端上进行了实验。尽管基于无隐藏层的网络模型，但在所有情况下，其准确率结果与更复杂的_state-of-the-art_机器学习模型相比仍具有竞争力。此外，我们表明该方法在同分布和非同分布场景中均表现良好。最后，这是一种环保算法，因为与集中式对应方法相比，它能在训练过程中显著节约能源。
引用
@article{arxiv.2312.14528,
title = {An effective and efficient green federated learning method for one-layer neural networks},
author = {Oscar Fontenla-Romero and Bertha Guijarro-Berdiñas and Elena Hernández-Pereira and Beatriz Pérez-Sánchez},
journal= {arXiv preprint arXiv:2312.14528},
year = {2023}
}