瞬态故障对二值化神经网络推理加速器影响综述
机器学习
2020-04-14 v1 人工智能
机器学习
摘要
过去几年中，人工智能算法的设计理念已显著转向从海量数据中自动提取可组合系统。大数据爆发加速了这一范式转变，使我们能够轻松访问和分析极大规模的数据集。最著名的大数据分析技术类别称为深度学习。这些模型需要大量计算能力与极高的内存访问，这催生了新颖方法的设计需求，以降低内存访问并提升功耗效率，同时考虑开发领域专用硬件加速器以支持当前及未来的数据规模与模型结构。当前专用集成电路的设计趋势几乎未考虑维持复杂神经网络计算在软错误存在下具有弹性的基本需求。软错误可能击中硬件加速器中的存储或组合逻辑，影响架构行为，使结果精度低于最小允许正确度。本研究中，我们展示了软错误对一种称为二值化神经网络（Binarized Neural Network）的定制深度学习算法的影响可能导致严重的图像误分类。我们的实验结果表明，在故障注入的最坏情形下，图像分类器准确率在 lfcW1A1 与 cnvW1A1 网络中分别于 CIFAR-10 与 MNIST 数据集上急剧下降 76.70% 与 19.25%。
引用
@article{arxiv.2004.05915,
title = {A Survey on Impact of Transient Faults on BNN Inference Accelerators},
author = {Navid Khoshavi and Connor Broyles and Yu Bi},
journal= {arXiv preprint arXiv:2004.05915},
year = {2020}
}