LSTMVis：一种用于循环神经网络中隐藏状态动态可视分析的工具
计算与语言
2017-10-31 v2 人工智能
神经与进化计算
摘要
循环神经网络，特别是长短期记忆（LSTM）网络，是一种非常有效的序列建模工具，它们学习其序列输入的密集黑箱隐藏表示。对更好地理解这些模型感兴趣的研究人员已经研究了隐藏状态表示随时间的变化，并注意到一些可解释的模式，但也存在显著的噪声。在这项工作中，我们提出了 LSTMVIS，一种针对循环神经网络的可视分析工具，侧重于理解这些隐藏状态动态。该工具允许用户选择一个假设输入范围以聚焦局部状态变化，将这些状态变化与大型数据集中的相似模式进行匹配，并将这些结果与其领域中的结构注释对齐。我们展示了该工具在包含嵌套、短语结构和和弦进行的数据集上分析特定隐藏状态属性的几个用例，并演示了如何使用该工具隔离模式以进行进一步的统计分析。我们刻画了该领域、不同的利益相关者及其目标和任务。
引用
@article{arxiv.1606.07461,
title = {LSTMVis: A Tool for Visual Analysis of Hidden State Dynamics in Recurrent Neural Networks},
author = {Hendrik Strobelt and Sebastian Gehrmann and Hanspeter Pfister and Alexander M. Rush},
journal= {arXiv preprint arXiv:1606.07461},
year = {2017}
}
备注
InfoVis 2017