计算机视觉深度神经网络中的黑盒错误诊断：工具综述
机器学习
2022-12-23 v4 人工智能
软件工程
摘要
深度神经网络（DNNs）在广泛任务中的应用，要求有方法来应对这些架构复杂且不透明的性质。当存在金标准时，性能评估将 DNN 视为黑盒，并基于预测与真实标签的比较计算标准指标。对性能更深入的理解需要超越此类评估指标，以诊断模型行为与预测错误。这一目标可通过两种互补的方式实现。一方面，模型解释技术“打开黑盒”，评估输入、内部层与输出之间的关系，从而识别最可能导致性能下降的架构模块。另一方面，黑盒错误诊断技术研究模型响应与某些未用于训练的输入属性之间的相关性，以识别使模型失效的输入特征。两种方法都为如何改进架构和/或训练过程提供了线索。本文关注 DNN 在计算机视觉（CV）任务中的应用，并综述支持黑盒性能诊断范式的工具。文中阐明了当前方案的特性和不足，讨论了相关研究方向，并简要概述了 CV 以外领域的诊断工具。
引用
@article{arxiv.2201.06444,
title = {Black-box Error Diagnosis in Deep Neural Networks for Computer Vision: a Survey of Tools},
author = {Piero Fraternali and Federico Milani and Rocio Nahime Torres and Niccolò Zangrando},
journal= {arXiv preprint arXiv:2201.06444},
year = {2022}
}
备注
Published in Springer Neural Computing and Applications, https://link.springer.com/article/10.1007/s00521-022-08100-9