引入归因稳定性指标:一种时间序列 XAI 归因的度量
机器学习
2023-10-09 v1 人工智能
摘要
鉴于金融、天气预报与医疗等领域中时间序列数据量日益增长且总体复杂,对能提供可解释洞察以揭示潜在模式与关系的前沿性能模型需求渐增。归因技术可从时间序列模型提取解释以获得洞察,但其鲁棒性与可信度难以评估。我们提出归因稳定性指标(ASI),一种将鲁棒性与可信度作为时间序列归因技术属性纳入考量的度量。我们将针对原始时间序列与扰动实例及其归因的相关性扰动分析加以扩展,使所需属性包含于该度量中。我们基于降维空间中归因的分析以及 ASI 分数在三个完整时间序列分类数据集上的分布,展示了所需属性。
引用
@article{arxiv.2310.04178,
title = {Introducing the Attribution Stability Indicator: a Measure for Time Series XAI Attributions},
author = {Udo Schlegel and Daniel A. Keim},
journal= {arXiv preprint arXiv:2310.04178},
year = {2023}
}
备注
16 pages, 6 figures, ECML-PKDD Workshop XAI-TS: Explainable AI for Time Series: Advances and Applications