ThUnderVolt：为高能效深度神经网络加速器实现激进电压欠标度与时序错误弹性
神经与进化计算
2018-03-14 v2 硬件体系结构
机器学习
摘要
硬件加速器正越来越多地部署以提升深度神经网络（DNN）推理的性能与能效。在本文中，我们提出 Thundervolt，一种新框架，它使高性能 DNN 加速器能够实现激进的电压欠标度，即使在高时序错误率下也不损害分类精度。使用对基于 Google TPU 建模的 DNN 加速器进行综合后时序仿真，我们表明 Thundervolt 在最先进的语音与图像识别基准上实现了 34%–57% 的能耗节省，分类精度损失小于 1% 且无性能损失。此外，我们表明 Thundervolt 与常用的运行时 DNN 剪枝技术（如 Zero-Skip）具有协同作用，并可进一步提高其能效。
引用
@article{arxiv.1802.03806,
title = {ThUnderVolt: Enabling Aggressive Voltage Underscaling and Timing Error Resilience for Energy Efficient Deep Neural Network Accelerators},
author = {Jeff Zhang and Kartheek Rangineni and Zahra Ghodsi and Siddharth Garg},
journal= {arXiv preprint arXiv:1802.03806},
year = {2018}
}