深度神经网络加速器中制造故障的高层建模
机器学习
2020-10-27 v2 性能
机器学习
摘要
数据驱动的实时应用的出现要求在机器学习加速器上实现深度神经网络（DNN）。谷歌的张量处理单元（TPU）正是这样一种神经网络加速器，其在核心处使用基于脉动阵列的矩阵乘法硬件进行计算。矩阵乘法单元中任意状态元素的制造故障都会在这些推理网络中引起意外错误。本文中，我们提出一种使用离散时间马尔可夫链（DTMC）形式化描述TPU中永久故障及其传播的正式模型。所提模型使用概率模型检测技术进行分析，以推断故障输出的可能性。获得的定量结果表明，分类准确率对永久故障的类型、位置、位位置以及神经网络层数均敏感。我们基于数字识别DNN的实验验证了理论模型的结论。
引用
@article{arxiv.2006.03616,
title = {High-level Modeling of Manufacturing Faults in Deep Neural Network Accelerators},
author = {Shamik Kundu and Ahmet Soyyiğit and Khaza Anuarul Hoque and Kanad Basu},
journal= {arXiv preprint arXiv:2006.03616},
year = {2020}
}
备注
4 pages, 2 figures