通过收缩与召回加速深度学习
机器学习
2016-09-20 v2 计算机视觉与模式识别
神经与进化计算
摘要
深度学习是一种非常强大的机器学习模型。深度学习为多层训练大量参数，当数据规模大且架构尺寸大时非常缓慢。受用于加速支持向量机（SVM）算法计算的收缩技术以及LASSO中使用的筛选技术启发，我们提出一种带召回的收缩深度学习（sDLr）方法来加速深度学习计算。我们使用深度神经网络（DNN）、深度信念网络（DBN）和卷积神经网络（CNN）在4个数据集上实验了带召回的收缩深度学习（sDLr）。结果表明，使用带召回的收缩深度学习（sDLr）的加速比可达2.0以上，同时仍提供有竞争力的分类性能。
引用
@article{arxiv.1605.01369,
title = {Accelerating Deep Learning with Shrinkage and Recall},
author = {Shuai Zheng and Abhinav Vishnu and Chris Ding},
journal= {arXiv preprint arXiv:1605.01369},
year = {2016}
}
备注
The 22nd IEEE International Conference on Parallel and Distributed Systems (ICPADS 2016)