面向大间隔模型的通用在线并行学习框架
计算与语言
2017-03-03 v1 机器学习
摘要
为了加速训练过程，许多现有系统在在线学习算法中采用了并行技术。然而，大多数研究主要关注随机梯度下降（SGD）而非其他算法。我们提出了一种面向大间隔模型的通用在线并行学习框架，并在流行的大间隔算法（包括 MIRA 和结构化感知机）上分析了我们的框架。该框架是无锁的，且易于在现有系统上实现。实验表明，采用该框架的系统可以通过增加运行线程获得近线性的加速，且无精度损失。
引用
@article{arxiv.1703.00786,
title = {A Generic Online Parallel Learning Framework for Large Margin Models},
author = {Shuming Ma and Xu Sun},
journal= {arXiv preprint arXiv:1703.00786},
year = {2017}
}