扰动作为时间序列XAI评估技术的深入探究
机器学习
2023-07-12 v1 人工智能
摘要
可解释人工智能（XAI）近来获得显著关注，因为对机器学习模型透明性与可解释性的需求日益增长。特别地，面向时间序列数据的XAI在金融、医疗与气候科学中变得愈发重要。然而，评估解释质量（如XAI技术提供的归因）仍然具有挑战性。本文深入分析使用扰动来评估从时间序列模型提取的归因。扰动分析涉及系统性修改输入数据并评估其对XAI方法所生成归因的影响。我们将该方法应用于若干最先进XAI技术，并在三个时间序列分类数据集上评估其性能。我们的结果表明扰动分析方法能有效评估归因质量，并揭示XAI技术的优势与局限。此类方法可指导时间序列数据XAI方法的选择（例如关注返回时间而非精度），并促进更可靠、可解释的时间序列分析机器学习模型的发展。
引用
@article{arxiv.2307.05104,
title = {A Deep Dive into Perturbations as Evaluation Technique for Time Series XAI},
author = {Udo Schlegel and Daniel A. Keim},
journal= {arXiv preprint arXiv:2307.05104},
year = {2023}
}
备注
16 pages, 2 pages references, 5 figures, 3 tables, submitted and accepted at xAI 2023