利用循环神经网络对预测类别中取值级特征归因的可视化摘要
机器学习
2020-08-25 v2 人机交互
摘要
深度循环神经网络（RNN）日益用于时序序列的决策。然而，理解 RNN 模型如何产生最终预测仍是一大挑战。现有解释 RNN 序列预测模型的工作常聚焦于解释个体数据实例（如患者或学生）的预测。由于最先进的预测模型由经数百万实例优化的数百万参数构成，解释单数据实例的预测容易错失全局图景。此外，许多表现优异的 RNN 模型使用多热编码表示特征的存在/缺失，缺失了特征值归因的可解释性。我们提出 ViSFA，一个对不同特征值随时间特征归因进行可视化摘要的交互系统。ViSFA 可扩展至如含 120 万高维时序事件电子健康记录的 MIMIC 数据集等大数据。我们展示 ViSFA 能通过将从复杂归因提炼为紧凑且易解释的 visualizations，帮助我们推理 RNN 预测并从数据中揭示洞见。
引用
@article{arxiv.2001.08379,
title = {Visual Summary of Value-level Feature Attribution in Prediction Classes with Recurrent Neural Networks},
author = {Chuan Wang and Xumeng Wang and Kwan-Liu Ma},
journal= {arXiv preprint arXiv:2001.08379},
year = {2020}
}
备注
10 pages