PACE：用于解释 CNN 的事后架构无关概念提取器
计算机视觉与模式识别
2021-09-01 v1 人工智能
摘要
深度 CNN 虽然在图像分类任务中取得了最先进的性能，但对使用它们的人类而言仍是一个黑箱。人们对解释这些深度模型工作机制以增进其可信度的兴趣日益增长。本文引入一种事后架构无关概念提取器（PACE），可自动提取图像中被称为概念的较小子区域，这些概念与黑箱预测相关。PACE 将解释框架对黑箱模型的忠实度紧密结合起来。据我们所知，这是首项以事后方式自动提取类特定判别性概念的工作。PACE 框架被用于为训练于 AWA2 和 Imagenet-Birds 数据集上的两种不同 CNN 架构生成解释。我们进行了大量人类受试者实验，以验证 PACE 提取解释的人类可解释性与一致性。这些实验的结果表明，超过 72% 的 PACE 提取概念是人类可解释的。
引用
@article{arxiv.2108.13828,
title = {PACE: Posthoc Architecture-Agnostic Concept Extractor for Explaining CNNs},
author = {Vidhya Kamakshi and Uday Gupta and Narayanan C Krishnan},
journal= {arXiv preprint arXiv:2108.13828},
year = {2021}
}
备注
Accepted at International Joint Conference on Neural Networks (IJCNN 2021)