多核分布式在线学习
机器学习
2020-11-19 v1 机器学习
摘要
在物联网系统中，海量物联网设备（如传感器）提供了大量信息数据。从此类数据中学习函数对于物联网系统的机器学习任务具有重要意义。针对流式（或序列）数据，本文提出了一种隐私保护的多核分布式在线学习框架（命名为 DOMKL）。所提出的 DOMKL 是利用在线交替方向乘子法（OADMM）和分布式 Hedge 算法的原理设计的。我们从理论上证明了 DOMKL 在 T 个时隙上能够实现最优的次线性遗憾，这意味着每个学习到的函数都能达到与事后最优函数相同的性能，如同最先进的集中式在线学习方法。此外，确保了任意两个相邻学习者的学习函数之间的差异随着 T 的增长可忽略不计，即所谓的共识约束成立。通过在多种真实数据集上的实验测试，我们验证了所提出的 DOMKL 在回归和时间序列预测任务上的有效性。
引用
@article{arxiv.2011.08930,
title = {Distributed Online Learning with Multiple Kernels},
author = {Jeongmin Chae and Songnam Hong},
journal= {arXiv preprint arXiv:2011.08930},
year = {2020}
}