神经网络中的对比解释
计算机视觉与模式识别
2020-08-04 v1 人工智能
机器学习
摘要
视觉解释是基于视觉特征、用以证明神经网络所作预测的逻辑论证。当前的视觉解释模式回答形如 的问题。这些 问题在宽泛语境下运作，从而在某些情况下给出不相关的答案。我们提议基于某语境 约束这些 问题，使我们的解释回答形如 的对比问题。在本文中，我们形式化了神经网络对比视觉解释的结构。我们基于神经网络定义对比并提出提取所定义对比的方法。随后我们将提取的对比作为插件置于现有 技术（特别是 Grad-CAM）之上使用。我们展示了它们在大规模识别、细粒度识别、地下地震分析和图像质量评估等应用中分析网络与数据方面的价值。
引用
@article{arxiv.2008.00178,
title = {Contrastive Explanations in Neural Networks},
author = {Mohit Prabhushankar and Gukyeong Kwon and Dogancan Temel and Ghassan AlRegib},
journal= {arXiv preprint arXiv:2008.00178},
year = {2020}
}