面向大数据的分布式平均 CNN-ELM

Arif Budiman; Mohamad Ivan Fanany; Chan Basaruddin

面向大数据的分布式平均 CNN-ELM

机器学习 2016-10-10 v1 计算机视觉与模式识别分布式、并行与集群计算

作者: Arif Budiman , Mohamad Ivan Fanany , Chan Basaruddin

摘要

提升机器学习处理海量数据的可扩展性是一项具有挑战性的任务。纵向扩展方法存在一些局限性。本文中，我们提出了一种基于 MapReduce 的 CNN-ELM 横向扩展方法，该方法在分类器层面实现。Map 过程是对特定数据分区进行 CNN-ELM 训练，涉及多个可以异步训练的 CNN-ELM 模型。Reduce 过程是对所有 CNN-ELM 权重进行平均，作为最终训练结果。与单独训练的单个 CNN-ELM 模型相比，这种方法可以节省大量训练时间。通过结合横向扩展和纵向扩展方法，该方法还提高了机器学习的可扩展性。我们在扩展的 MNIST 数据集和 not-MNIST 数据集实验中验证了我们的方法。然而，该方法也存在一些缺点，即需要仔细选取额外的迭代学习参数，以及需要仔细选择训练数据分布。未来需要使用更复杂的图像数据集进行进一步研究。

关键词

卷积神经网络-极限学习机 (CNN-ELM) MapReduce 分布式平均大数据可扩展性横向扩展

引用

@article{arxiv.1610.02373,
  title  = {Distributed Averaging CNN-ELM for Big Data},
  author = {Arif Budiman and Mohamad Ivan Fanany and Chan Basaruddin},
  journal= {arXiv preprint arXiv:1610.02373},
  year   = {2016}
}

备注

Submitted to IEEE Transactions on Systems, Man and Cybernetics: Systems

面向大数据的分布式平均 CNN-ELM

摘要

关键词

引用

备注

相关论文