从原型到稀疏 ECG 解释：基于 SHAP 的多变量时间序列多类分类对抗性解释
机器学习
2026-01-21 v2 人工智能
人机交互
摘要
在可解释人工智能 (XAI) 中，针对时间序列的基于实例的解释正受到越来越多的关注，因为它们在诸如医疗保健等领域具有可操作且可解释的洞察价值。为解决解释前沿模型的挑战，我们提出一种面向 12 导联 ECG 分类模型的原型驱动框架，用于生成稀疏对抗性解释。该方法采用 SHAP 阈值识别关键信号片段并转换为区间规则，利用动态时间归形 (DTW) 和中介聚类提取代表性原型，并将这些原型与查询 R 峰对齐，以与被解释样本保持一致。该框架在保持 81.3% 有效性的同时，仅修改原始信号的 78% 即可生成对抗性解释，跨所有类别实现 43% 的时序稳定性改进。我们评估了三种方法变体：Original、Sparse 和 Aligned Sparse，其中针对心肌梗死 (MI) 的有效性达到 98.9%，而针对心肌扩张 (HYP) 检测则面临挑战（仅 13.2%）。该方法支持在 1 秒以内生成临床上有效的对抗性解释，为交互式解释平台提供了基础。我们的发现为基于生理学意识的对抗性解释在 AI 诊断系统中的设计原则奠定了基础，并为临床部署的用户控制解释界面指明了路径。
引用
@article{arxiv.2510.19514,
title = {From Prototypes to Sparse ECG Explanations: SHAP-Driven Counterfactuals for Multivariate Time-Series Multi-class Classification},
author = {Maciej Mozolewski and Betül Bayrak and Kerstin Bach and Grzegorz J. Nalepa},
journal= {arXiv preprint arXiv:2510.19514},
year = {2026}
}