面向时间序列 XAI 方法的严谨评估
机器学习
2019-09-18 v2 人工智能
摘要
可解释人工智能（XAI）方法通常用于解释和调试黑盒机器学习模型。然而，大多数提出的 XAI 方法本身也是黑盒，且为图像而设计。因此它们依赖视觉可解释性来评估和证明解释。本工作中，我们将先前用于图像与文本领域的 XAI 方法应用于时间序列。我们提出一种通过引入新的验证技术以纳入时间维度来测试和评估时间序列上各类 XAI 方法的方法论。我们进一步开展初步实验，在多个数据集上用多种验证方法评估所选 XAI 方法解释的质量，并考察其质量指标。我们证明，在初始实验中 SHAP 对所有模型均稳健，而 DeepLIFT、LRP 和显著图等方法在特定架构下表现更好。
引用
@article{arxiv.1909.07082,
title = {Towards a Rigorous Evaluation of XAI Methods on Time Series},
author = {Udo Schlegel and Hiba Arnout and Mennatallah El-Assady and Daniela Oelke and Daniel A. Keim},
journal= {arXiv preprint arXiv:1909.07082},
year = {2019}
}
备注
5 Pages 1 Figure 1 Table 1 Page Reference - 2019 ICCV Workshop on Interpreting and Explaining Visual Artificial Intelligence Models