用于解释深度学习模型的多语义图像识别模型与评价指标
计算机视觉与模式识别
2021-09-29 v1 人工智能
摘要
尽管深度学习模型在各种应用中表现强大，大多数深度学习模型仍是黑箱，缺乏可验证性与可解释性，即人类无法理解决策过程。因此，如何以可解释方式评估深度神经网络仍是紧迫任务。本文首先提出一种多语义图像识别模型，使人类能够理解神经网络的决策过程。随后，我们提出一种新的评价指标，可定量评估模型可解释性。我们还全面总结了神经网络判断过程中影响图像分类结果的语义信息。最后，本文也展示了与当前 SOTA 深度学习模型相关的基线性能。
引用
@article{arxiv.2109.13531,
title = {Multi-Semantic Image Recognition Model and Evaluating Index for explaining the deep learning models},
author = {Qianmengke Zhao and Ye Wang and Qun Liu},
journal= {arXiv preprint arXiv:2109.13531},
year = {2021}
}