LLEXICORP：卷积神经网络面向终端用户的可解释性
计算机视觉与模式识别
2025-11-05 v1 人工智能
摘要
卷积神经网络 (CNN) 支撑着许多现代计算机视觉系统。随着从常规到关键性应用的广泛应用，一种需要解释和理解模型及其决策 (XAI) 的需求浮现。先前的工作表明，在 CNN 的顶层，单个通道可归因于分类人类可理解概念。概念相关传播 (CRP) 方法可将预测反向追溯到这些通道，并找到最激活这些通道的图像。然而，当前的 CRP 工作流程大多是手动的：专家必须检查激活图像来命名发现的概念，必须从相关性图中综合冗长的解释，这限制了解释的可及性及其可扩展性。为解决这些问题，我们引入 Large Language model EXplaIns COncept Relevance Propagation (LLEXICORP)，一种模块化管道，将 CRP 与多模态大语言模型耦合。我们的ethods 自动为概念原型分配描述性名称，并生成自然语言解释，将定量相关性分布翻译为直观叙事。为确保忠实性，我们设计了教授语言模型 CRP 语义的提示，并强制命名任务与解释任务之间的分离。生成的文本可针对不同受众进行定制，为专家提供低层次技术描述，为非技术利益相关者提供高层次摘要。我们对 ImageNet 上的各种图像进行了在 VGG16 模型上的定性评估。我们的发现表明，将概念基于归因的方法与大语言模型集成可以显著降低解释深度神经网络的门槛，为更透明的人工智能系统铺平了道路。
引用
@article{arxiv.2511.02720,
title = {LLEXICORP: End-user Explainability of Convolutional Neural Networks},
author = {Vojtěch Kůr and Adam Bajger and Adam Kukučka and Marek Hradil and Vít Musil and Tomáš Brázdil},
journal= {arXiv preprint arXiv:2511.02720},
year = {2025}
}