基于分布偏移检测的深度神经网络一次性在线测试
机器学习
2023-05-17 v1 人工智能
新兴技术
摘要
神经网络(NNs)能够学习数据中复杂的模式与关系以进行高精度预测，从而在各种任务中发挥作用。然而，NNs 既是计算密集型也是存储密集型方法，使其在边缘应用中面临挑战。为加速 NNs 中最常见的操作（矩阵-向量乘法），采用了基于非易失性忆阻交叉阵列的计算内存(CiM)等硬件加速器架构。尽管它们具有功耗效率、并行性和非易失性等优势，但在制造和生命周期操作中均存在各种故障与偏差。这可能导致错误的计算，进而造成映射后推理精度的下降，这对于包括安全关键应用在内的许多应用是不可接受的。因此，需要对 NN 硬件加速器进行适当测试。本文提出一种“一次性”测试方法，仅需一个测试向量即可测试部署于忆阻交叉阵列上的 NNs，非常适用于在线测试应用。我们的方法在多个多达 201 层的大型拓扑和语义分割等挑战性任务上始终实现 100% 故障覆盖率。此外，与现有方法相比，故障覆盖率提升高达 24%，存储开销仅 0.0123 MB（降低达 19980 倍），测试向量数量减少 10000 倍。
引用
@article{arxiv.2305.09348,
title = {One-Shot Online Testing of Deep Neural Networks Based on Distribution Shift Detection},
author = {Soyed Tuhin Ahmed and Mehdi B. Tahoori},
journal= {arXiv preprint arXiv:2305.09348},
year = {2023}
}