一种面向深度神经网络可扩展且可解释错误检测的低开销策略监控方法
计算机视觉与模式识别
2023-11-03 v1
摘要
我们提出一种用于深度计算机视觉网络的高度紧凑运行时监控方法，其仅从极少（最少仅两层）隐藏层中提取选定知识，却能有效检测源自硬件内存与输入故障的静默数据损坏。基于关键故障通常表现为受影响网络层激活分布的峰值或整体偏移这一洞察，我们采用策略性放置的分位数标记，对当前整体推理的异常程度作出准确估计。重要的是，检测器组件本身在算法上保持透明，使常规与异常行为的归类对人类可解释。我们的技术实现了高达约 96% 的检测精确率与约 98% 的召回率。相较于最先进的异常检测技术，该方法所需计算开销极小（相对于非监督推理时间可低至 0.3%），并有助于模型的可解释性。
引用
@article{arxiv.2310.20349,
title = {A Low-cost Strategic Monitoring Approach for Scalable and Interpretable Error Detection in Deep Neural Networks},
author = {Florian Geissler and Syed Qutub and Michael Paulitsch and Karthik Pattabiraman},
journal= {arXiv preprint arXiv:2310.20349},
year = {2023}
}