卷积网络中嵌入式编码器-解码器以实现可解释人工智能
计算机视觉与模式识别
2020-07-15 v1
摘要
近期，理解深度学习模型的中间层并发现刺激物的驱动特征引起了广泛关注。可解释人工智能（XAI）提供了一种打开AI黑箱并做出透明且可解释决策的新途径。本文提出一种新型可解释卷积神经网络（XCNN），在端到端模型架构中表示刺激物的重要且具驱动性的视觉特征。该网络在CNN架构中采用编码器-解码器神经网络，基于图像类别表示图像中的感兴趣区域。所提模型无需定位标签训练，并作为网络架构的一部分生成热力图，无需额外后处理步骤。在CIFAR-10、Tiny ImageNet和MNIST数据集上的实验结果表明，我们的算法（XCNN）在使CNN可解释方面取得成功。基于视觉评估，所提模型在类特定特征表示和可解释热力图生成方面优于当前算法，同时提供了简单灵活的网路架构。该方法的初步成功值得进一步研究，以增强可解释框架中的弱监督定位与语义分割。
引用
@article{arxiv.2007.06712,
title = {Embedded Encoder-Decoder in Convolutional Networks Towards Explainable AI},
author = {Amirhossein Tavanaei},
journal= {arXiv preprint arXiv:2007.06712},
year = {2020}
}