中文

关于RTL神经网络加速器的弹性:故障表征与缓解

机器学习 2018-06-27 v1 硬件体系结构 机器学习

摘要

机器学习(ML)正随着非结构化数据的海量生成而强劲复兴,这反过来又需要大量的计算资源。由于神经网络(NN)固有的计算密集和功耗密集结构,硬件加速器成为一种有前景的解决方案。然而,随着技术节点缩小至10nm以下,硬件加速器变得更容易受故障影响,这进而会影响NN精度。本文研究了神经网络加速器的寄存器传输级(RTL)模型的弹性方面,特别是故障表征与缓解。通过采用高层次综合(HLS)方法,我们首先表征了RTL NN各组件的脆弱性。我们观察到故障的严重程度取决于i)应用层规范,即NN数据(输入、权重或中间量)、NN层和NN激活函数,以及ii)架构层规范,即数据表示模型和底层加速器的并行度。其次,受表征结果启发,我们提出了一种低开销的故障缓解技术,能够高效纠正比特翻转,比最先进的方法好47.3%。

关键词

引用

@article{arxiv.1806.09679,
  title  = {On the Resilience of RTL NN Accelerators: Fault Characterization and Mitigation},
  author = {Behzad Salami and Osman Unsal and Adrian Cristal},
  journal= {arXiv preprint arXiv:1806.09679},
  year   = {2018}
}

备注

8 pages, 6 figures