基于深度循环神经网络的特征归因可视化推理
机器学习
2019-01-18 v1 人机交互
摘要
深度循环神经网络（RNN）已在许多序列分类任务中广受欢迎。除为每个数据实例预测正确类别外，数据科学家还希望理解在学习过程中数据中哪些差异化因素对分类作出了贡献。我们提出一种可视化分析方法，通过揭示所有数据实例的 RNN 注意力、其在序列中的时间位置以及各取值层级上变量的归因来促进该任务。我们用真实世界数据集证明，我们的方法可帮助数据科学家从训练结果中理解深度 RNN 中的此类动态，从而指导其建模过程。
引用
@article{arxiv.1901.05574,
title = {Visual Reasoning of Feature Attribution with Deep Recurrent Neural Networks},
author = {Chuan Wang and Takeshi Onishi and Keiichi Nemoto and Kwan-Liu Ma},
journal= {arXiv preprint arXiv:1901.05574},
year = {2019}
}