基于多核的在线联邦学习
机器学习
2021-02-23 v1
摘要
在线联邦学习（OFL）正成为一种新兴学习框架，其中边缘节点利用连续流式本地数据执行在线学习，而服务器从聚合的本地模型构建全局模型。在线多核学习（OMKL）使用一组预选的 P 个核，因其以低复杂度和可扩展性提供了出色性能，可成为 OFL 框架的良好候选。然而，将 OMKL 朴素地扩展至 OFL 框架会带来随 P 线性增长的沉重通信开销。本文提出一种新颖的基于多核的 OFL（MK-OFL）作为 OMKL 的非平凡扩展，其在通信开销降低 1/P 的同时取得与朴素扩展相同的性能。我们从理论上证明，MK-OFL 相较于事后最优函数达到了最优的次线性遗憾界。最后，我们在真实数据集上提供了该方法的数值测试，表明其实用性。
引用
@article{arxiv.2102.10861,
title = {Multiple Kernel-Based Online Federated Learning},
author = {Jeongmin Chae and Songnam Hong},
journal= {arXiv preprint arXiv:2102.10861},
year = {2021}
}