cltorch:基于 OpenCL 的 Torch 深度神经网络库硬件无关后端
神经与进化计算
2016-06-16 v1 计算机视觉与模式识别
摘要
本文提出了 cltorch,一个用于 Torch 神经网络框架的硬件无关后端。cltorch 使得能够在来自不同硬件供应商(包括 AMD、NVIDIA 和 Intel)的 GPU 上训练深度神经网络。cltorch 包含足够的实现以运行诸如 AlexNet、VGG、Overfeat 和 GoogleNet 等模型。它使用由 Khronos Group 制定的可移植计算语言 OpenCL 编写。cltorch 是 Chintala 的 convnet-benchmarks 页面上排名第一的硬件无关机器学习框架。本文介绍了为 Torch 创建 cltorch 后端时遇到的技术挑战,并详细探讨了与获得快速硬件无关实现相关的挑战。卷积层被确定为加速硬件无关框架的关键关注区域。确定了加速卷积实现的可能方法,包括:使用 implicitgemm 或 winograd 算法实现卷积,使用适应于卷积算法相关几何的 GEMM 实现,或使用可插拔的硬件特定卷积实现。
引用
@article{arxiv.1606.04884,
title = {cltorch: a Hardware-Agnostic Backend for the Torch Deep Neural Network Library, Based on OpenCL},
author = {Hugh Perkins},
journal= {arXiv preprint arXiv:1606.04884},
year = {2016}
}
备注
9 pages