语义可解释的激活图：CNN 中 what-where-how 的解释
计算机视觉与模式识别
2019-09-19 v1
摘要
阻碍卷积神经网络（CNN）在终端用户应用中使用的一个主要问题是在决策过程中的透明度较低。先前关于 CNN 可解释性的工作主要集中于定位图像中贡献于结果的区域，或构建一个生成合理解释的外部模型。然而，前者不提供任何语义信息，后者不保证解释的忠实性。我们提出一种由多个语义可解释的激活图（SIAM）组成的中间表示，指示预定义属性在图像不同位置的存在。这些属性图随后被线性组合以产生最终输出。这使用户能够洞察模型看到了什么、在哪里，以及以全面且可解释的方式与这些信息直接关联的最终输出。我们在景观 scenicness（美学价值）估计任务上测试该方法，使用来自 SUN Attributes 数据库的 33 个属性的中间表示。结果证实 SIAM 使得理解图像中哪些属性贡献于最终分数以及它们位于何处成为可能。由于它基于从多任务和数据集学习，SIAM 在不增加标注负担或推理时计算开销的情况下改善了预测的可解释性，同时在最终和中间任务上保持良好性能。
引用
@article{arxiv.1909.08442,
title = {Semantically Interpretable Activation Maps: what-where-how explanations within CNNs},
author = {Diego Marcos and Sylvain Lobry and Devis Tuia},
journal= {arXiv preprint arXiv:1909.08442},
year = {2019}
}
备注
2019 ICCV Workshop on Interpreting and Explaining Visual Artificial Intelligence Models