关联输入概念与卷积神经网络决策
机器学习
2017-11-23 v1 人工智能
计算机视觉与模式识别
摘要
许多当前解释卷积神经网络(CNN)的方法使用可视化技术和词语来突出输入中看似与 CNN 决策相关的概念。这些方法假设这些概念的识别对 CNN 达成的决策起了重要作用,但这种关系的本质尚未被充分探究。为弥补此不足,本文考察 CNN 对概念识别的质量以及这些识别与 CNN 决策的关联程度。研究考虑一个在 ADE20k 数据集上训练用于场景识别的 CNN。它采用一种新方法,在后期特征图上寻找并评分输入概念(由场景图像中的物体定义)的最小分布表示的强度。后续分析发现了概念识别影响决策的证据。在少数场景频繁出现的概念的强识别指示了正确决策,但识别许多场景共有的概念可能误导网络。
引用
@article{arxiv.1711.08006,
title = {Relating Input Concepts to Convolutional Neural Network Decisions},
author = {Ning Xie and Md Kamruzzaman Sarker and Derek Doran and Pascal Hitzler and Michael Raymer},
journal= {arXiv preprint arXiv:1711.08006},
year = {2017}
}
备注
10 pages (including references), 9 figures, paper accepted by NIPS IEVDL 2017