SUNY：一种从必要与充分性视角解释卷积神经网络的视觉解释框架
计算机视觉与模式识别
2024-05-28 v3 人工智能
摘要
研究者已提出多种通过显著图对卷积神经网络（CNN）进行视觉解释的方法，其中包括作为主流族系的基于类激活图（CAM）的方法。然而，就内部设计逻辑而言，现有基于 CAM 的方法常忽视因果视角，该视角能回答核心的“为什么”问题以帮助人类理解解释。此外，当前 CNN 解释缺乏对被期望解释的两个互补方面——必要性与充分性的考量。本文提出一个因果驱动的框架 SUNY，旨在使解释合理化以获得更好的人类理解。以 CNN 模型的输入特征或内部滤波器作为假设原因，SUNY 通过对必要性及充分性视角的双向量化生成解释。大量评估证明，SUNY 不仅从必要性与充分性角度产生更具信息量和说服力的解释，还在包括 ILSVRC2012 和 CUB-200-2011 在内的大规模数据集上跨不同 CNN 架构取得了与其他方法相竞争的性能。
引用
@article{arxiv.2303.00244,
title = {SUNY: A Visual Interpretation Framework for Convolutional Neural Networks from a Necessary and Sufficient Perspective},
author = {Xiwei Xuan and Ziquan Deng and Hsuan-Tien Lin and Zhaodan Kong and Kwan-Liu Ma},
journal= {arXiv preprint arXiv:2303.00244},
year = {2024}
}
备注
Accepted to CVPRw 2024