用于高效设备上联邦学习的局部变量训练
机器学习
2021-10-13 v1 声音
音频与语音处理
摘要
本文旨在解决边缘设备上联邦学习（FL）的主要挑战：内存受限与通信开销高昂。我们提出一种称为局部变量训练（PVT）的新方法，仅在边缘设备上训练一小部分变量，以降低内存占用与通信成本。借助PVT，我们表明通过利用更多本地训练步数与设备，可维持网络精度，这有利于涉及大量设备的FL。根据我们在两个用于语音识别的最先进神经网络与两个不同数据集上的实验，与全网络训练相比，PVT可将内存占用降低至多1.9，通信成本降低至多593，同时达到可比精度。
引用
@article{arxiv.2110.05607,
title = {Partial Variable Training for Efficient On-Device Federated Learning},
author = {Tien-Ju Yang and Dhruv Guliani and Françoise Beaufays and Giovanni Motta},
journal= {arXiv preprint arXiv:2110.05607},
year = {2021}
}