基于模型 Knockoff 的图像分类器统计显著概念解释方法
机器学习
2024-01-23 v2 人工智能
计算机视觉与模式识别
摘要
基于概念的分类器可通过人类可理解的概念解释深度学习模型在图像分类问题中的决策过程。然而，有时基于概念的解释可能导致假阳性，即将不相关的概念误认为对预测任务重要。我们的目标是找到对分类具有统计显著性的概念，以防止误读。在本研究中，我们提出一种方法，使用深度学习模型学习图像概念，然后利用 Knockoff 样本通过控制错误发现率（False Discovery Rate, FDR）低于某一特定值来筛选对预测重要的概念。我们在合成数据和真实数据实验中评估了所提出的方法。结果表明，我们的方法能够在选择合适且高度可解释的概念的同时恰当地控制 FDR，从而提升模型的可信度。
引用
@article{arxiv.2305.18362,
title = {Statistically Significant Concept-based Explanation of Image Classifiers via Model Knockoffs},
author = {Kaiwen Xu and Kazuto Fukuchi and Youhei Akimoto and Jun Sakuma},
journal= {arXiv preprint arXiv:2305.18362},
year = {2024}
}
备注
Accepted to IJCAI'23