Horn：一个用于大规模神经网络并行训练与正则化的系统
分布式、并行与集群计算
2017-02-28 v2 机器学习
神经与进化计算
摘要
本文介绍了一种新的分布式系统，用于在分布式计算架构上有效训练和正则化大规模神经网络。实验展示了基于以神经元为中心的计算模型的灵活模型划分和并行化策略的有效性，并实现了集体和并行 dropout 神经网络训练。实验在 MNIST 手写数字分类任务上进行并报告了结果。
引用
@article{arxiv.1608.00781,
title = {Horn: A System for Parallel Training and Regularizing of Large-Scale Neural Networks},
author = {Edward J. Yoon},
journal= {arXiv preprint arXiv:1608.00781},
year = {2017}
}