深度神经网络的交织器设计
机器学习
2019-04-29 v3
摘要
我们提出了一类交织器,用于一种新颖的深度神经网络(DNN)架构,该架构利用算法预先确定的结构化稀疏性来显著降低内存和计算需求,并加速训练。这些交织器保证无冲突的内存访问以消除空闲操作周期,优化扩展与分散以改善网络性能,并且设计得简化了硬件中内存地址计算的复杂性。我们给出了具有这些性质的数学证明的设计算法。我们还探索了交织器的变体,并分析了神经网络作为交织器度量函数的行为。
引用
@article{arxiv.1711.06935,
title = {Interleaver Design for Deep Neural Networks},
author = {Sourya Dey and Peter A. Beerel and Keith M. Chugg},
journal= {arXiv preprint arXiv:1711.06935},
year = {2019}
}
备注
Slightly abridged version presented at the 2017 51st Asilomar Conference on Signals, Systems, and Computers, copyright IEEE