XAI-TRIS：用于量化特征重要性事后归因假阳性的非线性图像基准
机器学习
2023-12-08 v2 人工智能
计算机视觉与模式识别
摘要
“可解释”人工智能（XAI）领域已产生高被引方法，旨在使复杂机器学习（ML）方法的决策对人类“可理解”，例如通过对输入特征赋予“重要性”分数。然而，缺乏形式化基础使得从给定 XAI 方法的结果中能够安全得出的结论尚不明确，并且迄今也阻碍了 XAI 方法的理论验证与经验验证。这意味着通常由深度神经网络求解的具有挑战性的非线性问题目前缺乏适当的应对手段。在此，我们为三种不同的非线性分类场景构建基准数据集，其中重要的类条件特征由设计已知，作为真实解释。利用新颖的定量指标，我们在三种深度学习模型架构上基准测试了广泛 XAI 方法的解释性能。我们表明，流行的 XAI 方法往往无法显著优于随机性能基线与边缘检测方法。此外，我们证明源自不同模型架构的解释可能截然不同；因此，即使在受控条件下也易被误读。
引用
@article{arxiv.2306.12816,
title = {XAI-TRIS: Non-linear image benchmarks to quantify false positive post-hoc attribution of feature importance},
author = {Benedict Clark and Rick Wilming and Stefan Haufe},
journal= {arXiv preprint arXiv:2306.12816},
year = {2023}
}
备注
Under review