QC-ODKLA：基于线性化 ADMM 的量化与通信筛除在线分散式核学习
机器学习
2022-08-05 v1
摘要
本文关注分散式网络上的在线核学习。网络中的每个智能体在本地接收连续流数据，并协作学习一个在再生核 Hilbert 空间中关于所有智能体总瞬时代价全局最优的非线性预测函数。为规避传统在线核学习中的维数灾难问题，我们利用随机特征（RF）映射将非参数核学习问题转化为 RF 空间中的定长参数化问题。随后我们提出一种名为基于线性化 ADMM 的在线分散式核学习（ODKLA）的新颖学习框架，以高效求解在线分散式核学习问题。为进一步提升通信效率，我们在通信阶段加入量化和筛除策略，并开发了量化与通信筛除 ODKLA（QC-ODKLA）算法。我们从理论上证明 ODKLA 与 QC-ODKLA 均能在 个时隙上达到最优次线性遗憾 。通过数值实验，我们评估了所提方法的学习有效性、通信与计算效率。
引用
@article{arxiv.2208.02777,
title = {QC-ODKLA: Quantized and Communication-Censored Online Decentralized Kernel Learning via Linearized ADMM},
author = {Ping Xu and Yue Wang and Xiang Chen and Zhi Tian},
journal= {arXiv preprint arXiv:2208.02777},
year = {2022}
}