深度神经网络中用于并行化的跳蛙法
机器学习
2018-01-17 v1 分布式、并行与集群计算
摘要
我们提出了一种称为跳蛙法(leapfrogging)的技术,用于并行化深度神经网络中的反向传播。我们表明,该技术可节省反向传播中一项主导项的 ,其中 k 为线程(或 GPU)的数量。
引用
@article{arxiv.1801.04928,
title = {Leapfrogging for parallelism in deep neural networks},
author = {Yatin Saraiya},
journal= {arXiv preprint arXiv:1801.04928},
year = {2018}
}
备注
5 pages, 1 figure