利用学习到的原型解释时间序列数据的深度分类
摘要
深度学习网络的出现引发了对可解释人工智能的需求，以便用户和领域专家能够放心地将其应用于高风险决策。在本文中，我们利用深度学习模型所诱导的潜在空间中的数据，在训练期间学习刻板表示或“原型”，以阐明算法的决策过程。我们研究了在几种不同设置下利用原型如何影响二维时间序列数据的分类决策：(1) 心电图（ECG）波形用于检测早产儿的临床心动过缓（心率减慢），(2) 呼吸波形用于检测早产儿呼吸暂停，以及 (3) 音频波形用于分类口语数字。我们通过优化以增加原型多样性和鲁棒性来改进现有模型，可视化模型如何利用潜在空间中的这些原型来区分类别，并表明原型能够在二维时间序列数据上学习特征，从而在分类任务中产生可解释的洞察。我们表明，这些原型能够学习真实世界特征——ECG 中的心动过缓、呼吸中的呼吸暂停以及语音中的发音——以及子类内的特征。我们的新颖工作利用学习到的原型框架在二维时间序列数据上产生分类任务中的可解释洞察。
引用
@article{arxiv.1904.08935,
title = {Explaining Deep Classification of Time-Series Data with Learned Prototypes},
author = {Alan H. Gee and Diego Garcia-Olano and Joydeep Ghosh and David Paydarfar},
journal= {arXiv preprint arXiv:1904.08935},
year = {2019}
}
备注
The first two authors contributed equally. Accepted May 20, Presented Jun 14, 2019 at the ICML Time-series Workshop in Long Beach, CA, USA. Accepted June 15, Presented Aug 11, 2019 at the IJCAI Workshop on Knowledge Discovery in Healthcare Data in Macao, China. Formal proceedings available in the CEUR Workshop Proceedings (http://ceur-ws.org/Vol-2429/)