面向高维线性分类的特征分布式 SVRG
机器学习
2018-02-13 v1 分布式、并行与集群计算
机器学习
摘要
线性分类已广泛应用于文本分类等许多高维应用中。为大规模任务执行线性分类，我们常需在多机集群上设计分布式学习方法。本文提出一种用于高维线性分类的新的分布式学习方法，称为特征分布式随机方差缩减梯度（FD-SVRG）。与多数已有的实例分布式分布式学习方法不同，FD-SVRG 是特征分布式的。当数据维度大于数据实例数时，FD-SVRG 比其他实例分布式方法具有更低的通信开销。在真实数据上的实验结果表明，当维度大于训练数据中实例数时，FD-SVRG 在通信开销与挂钟时间两方面均优于其他最先进的高维线性分类分布式方法。
引用
@article{arxiv.1802.03604,
title = {Feature-Distributed SVRG for High-Dimensional Linear Classification},
author = {Gong-Duo Zhang and Shen-Yi Zhao and Hao Gao and Wu-Jun Li},
journal= {arXiv preprint arXiv:1802.03604},
year = {2018}
}