通过向可训练代理模型引入非线性改进 Explain-Any-Concept
计算机视觉与模式识别
2024-06-26 v2 人工智能
摘要
在不断发展的可解释人工智能（XAI）领域，解释计算机视觉任务中深度神经网络（DNN）的决策是一个重要过程。基于像素的 XAI 方法侧重于识别显著像素，而现有的基于概念的 XAI 方法则使用预定义或人工标注的概念。最近提出的 Segment Anything Model (SAM) 通过全面的实例分割，在准备自动概念集方面迈出了重要一步。在此基础上，Explain Any Concept (EAC) 模型作为一种解释 DNN 决策的灵活方法应运而生。EAC 模型基于使用一个具有可训练线性层的代理模型来模拟目标模型。在本文中，通过向原始代理模型引入一个额外的非线性层，我们展示了对 EAC 模型性能的改进。我们将提出的方法与原始 EAC 模型进行了比较，并报告了在 ImageNet 和 MS COCO 数据集上取得的改进。
引用
@article{arxiv.2405.11837,
title = {Improving the Explain-Any-Concept by Introducing Nonlinearity to the Trainable Surrogate Model},
author = {Mounes Zaval and Sedat Ozer},
journal= {arXiv preprint arXiv:2405.11837},
year = {2024}
}
备注
This paper is accepted for publication at IEEE SIU conference, 2024