基于全局注意力和NLP生成解释的多模型热力图融合时序可解释AI
机器学习
2025-07-02 v1 人工智能
计算与语言
摘要
本文提出了一种新框架，通过整合ResNet和重新结构化2D Transformer单独产生的热力图，并结合全局加权输入显著性图来增强模型可解释性。我们解决了现有可解释性方法中空间时间错位的关键问题，其中卷积网络无法捕获全局上下文，Transformer缺乏局部精度——这一限制阻碍了在医疗保健和工业监控等安全关键领域获得可操作见解。我们的方法将梯度加权激活图（ResNet）和Transformer注意力rollout融合为统一的可视化，实现完全的空间时间对齐，同时保持实时性能。在临床（心电图 arrhythmia 检测）和工业（能源消耗预测）数据集上的经验评估显示出显著改进：该混合框架在PhysioNet数据集上实现94.1%准确率（F1 0.93），在UCI Energy Appliance数据集上将回归误差降低到RMSE = 0.28 kWh（R2 = 0.95），超越standalone ResNet、Transformer和InceptionTime基线3.8-12.4%。NLP模块将融合热力图翻译为领域特定叙述（例如“ST段在2-4秒之间升高提示心肌缺血”），通过BLEU-4（0.586）和ROUGE-L（0.650）分数进行验证。通过将可解释性形式化为因果忠实性和空间时间对齐，我们的方法弥合了技术输出与利益相关者理解之间的差距，为透明、时序感知的决策提供可扩展解决方案。
引用
@article{arxiv.2507.00234,
title = {Interpretable AI for Time-Series: Multi-Model Heatmap Fusion with Global Attention and NLP-Generated Explanations},
author = {Jiztom Kavalakkatt Francis and Matthew J Darr},
journal= {arXiv preprint arXiv:2507.00234},
year = {2025}
}
备注
13 pages