MUPAX：多维度问题无关可解释人工智能
机器学习
2025-07-18 v1 人工智能
计算机视觉与模式识别
摘要
稳健的可解释人工智能（XAI）技术理想情况下应同时具有确定性、模型无关性以及收敛性保证。我们提出了多维度问题无关可解释人工智能（MULTIDIMENSIONAL PROBLEM AGNOSTIC EXPLAINABLE AI，MUPAX），这是一种具有确定性、模型无关性解释技术，且具备收敛性保证的方法。MUPAX 的测度论表述通过结构扰动分析给出原则性的特征重要性归因，发现数据中固有的输入模式并消除伪相关关系。我们在广泛的数据模态和任务上评估了 MUPAX：音频分类（1 维）、图像分类（2 维）、体积医学图像分析（3 维）以及解剖标志点检测，展示了维度无关的有效性。严谨的收敛保证适用于任意损失函数和任意维度，使 MUPAX 可被应用于几乎任何 AI 问题情境。与其他 XAI 方法通常在遮蔽时会降低性能不同，MUPAX 不仅保持模型准确率，还实际上通过捕获原始数据中最重要的模式来提升模型准确率。与 XAI 领域的现有技术进行大规模基准测试表明，MUPAX 能够生成精确、一致且易于理解的解释，这是通用可解释和可信赖人工智能系统的关键步骤。发布后将公开源代码。
引用
@article{arxiv.2507.13090,
title = {MUPAX: Multidimensional Problem Agnostic eXplainable AI},
author = {Vincenzo Dentamaro and Felice Franchini and Giuseppe Pirlo and Irina Voiculescu},
journal= {arXiv preprint arXiv:2507.13090},
year = {2025}
}