OMENN：一种解释神经网络的统一矩阵
机器学习
2024-12-04 v1 人工智能
计算机视觉与模式识别
摘要
深度学习（DL）模型常常是黑箱，难以解释其决策过程。这种缺乏透明度推动了可解释人工智能（XAI）领域的发展，该领域致力于阐明 DL 模型预测背后的推理过程。在这些方法中，基于归因的技术如 LRP 和 GradCAM 被广泛使用，但它们依赖于近似，可能不够精确。为此，本文引入一种新型后处理方法——一种统一矩阵解释神经网络（One Matrix to Explain Neural Networks, OMENN），该方法为每个特定输入表示神经网络为单个可解释矩阵。该矩阵通过一系列线性变换构成，代表神经网络对输入的各层处理。结果而言，OMENN 提供了对输入在各种现代模型（包括 ViT 和 CNN）上的本地精确、基于归因的解释。我们基于动态线性性质对 OMENN 进行理论分析，并通过两个 XAI 基准测试进行广泛测试，证明 OMENN 在与最先进方法竞争方面具有竞争力。
引用
@article{arxiv.2412.02399,
title = {OMENN: One Matrix to Explain Neural Networks},
author = {Adam Wróbel and Mikołaj Janusz and Bartosz Zieliński and Dawid Rymarczyk},
journal= {arXiv preprint arXiv:2412.02399},
year = {2024}
}
备注
Under review, code will be released after acceptance