Delta-XAI：面向在线时间序列监控的预测变化解释统一框架
机器学习
2026-04-28 v2 人工智能
摘要
在医疗和金融等敏感领域，对在线时间序列监控模型进行解释至关重要，因为其中的时序和情境预测动力学支撑着关键决策。虽然最近的 XAI 方法在提高时间序列模型的可解释性方面取得了进展，但它们大多独立地分析每个时间步骤，忽略了时序依赖性。这导致进一步的挑战：解释预测变化并不容易，方法未能利用在线动力学，评估也困难。为此，我们提出 Delta-XAI，通过包装函数改编 14 种现有 XAI 方法，并引入原则性的评估套件用于在线场景，评估诸如忠诚度、充分性和连贯性等多方面。实验表明，诸如集成梯度(Integrated Gradients, IG)等经典梯度法，当针对时序分析进行改编后，能够优于最新方法。基于此，我们提出移位窗口集成梯度(Shifted Window Integrated Gradients, SWING)，该方法纳入集成路径中的过去观察，以系统性地捕捉时序依赖性并缓解离群分布效应。广泛的实验一致地表明 SWING 在多种设置下都能在多样化的指标方面表现出色。我们的代码已公开于 https://github.com/AITRICS/Delta-XAI。
引用
@article{arxiv.2511.23036,
title = {Delta-XAI: A Unified Framework for Explaining Prediction Changes in Online Time Series Monitoring},
author = {Changhun Kim and Yechan Mun and Hyeongwon Jang and Eunseo Lee and Sangchul Hahn and Eunho Yang},
journal= {arXiv preprint arXiv:2511.23036},
year = {2026}
}
备注
Accepted at ICLR 2026; Code is available at https://github.com/AITRICS/Delta-XAI