Newton：趋向交叉阵列加速的物理极限
机器学习
2018-03-20 v1 硬件体系结构
摘要
近期许多工作设计了卷积神经网络（CNN）加速器。数字加速器依赖近数据处理，而模拟加速器通过执行原位计算进一步减少了数据移动。近期工作利用忆阻器交叉阵列中的高度并行模拟原位计算来加速 CNN 中的大量向量-矩阵乘法运算。然而，这些原位加速器存在两个显著缺陷，本文对此进行了改进。首先，模数转换器（ADC）占用了芯片功耗和面积的很大一部分。其次，这些加速器采用同构设计，即每种资源均按最坏情况配置。通过解决这两个问题，新架构 Newton 向实现交叉阵列加速器的最优每神经元能耗迈进了一步。我们引入了多种应用于 tile 层次结构不同层级的新技术。其中两项技术利用异构性：一项根据每个子计算的需求调整 ADC 精度（对精度零影响），另一项设计针对卷积或分类器定制的 tile。另外两项技术依赖分治数值算法以减少计算量和 ADC 压力。最后，我们对工作负载映射到 tile 的方式施加约束，从而帮助减少 tile 中的资源配置。对于广泛的 CNN 数据流和结构，相较于最先进的 ISAAC 加速器，Newton 实现了 77% 的功耗降低、51% 的能效提升以及 2.2 倍的吞吐率/面积提升。
引用
@article{arxiv.1803.06913,
title = {Newton: Gravitating Towards the Physical Limits of Crossbar Acceleration},
author = {Anirban Nag and Ali Shafiee and Rajeev Balasubramonian and Vivek Srikumar and Naveen Muralimanohar},
journal= {arXiv preprint arXiv:1803.06913},
year = {2018}
}
备注
13 pages with Appendix