NeuroView-RNN：时间至关重要
机器学习
2022-02-25 v1
摘要
循环神经网络（RNNs）是处理时间序列或视频等序列数据的重要工具。可解释性定义为能被人理解的能力，不同于可说明性，后者是能用数学表述解释的能力。RNN 的一个关键可解释性问题是：不清楚每个时间步的隐藏状态如何以定量方式贡献于决策过程。我们提出 NeuroView-RNN 作为一类新 RNN 架构，其解释了所有时间步如何被用于决策过程。该族中每个成员均由标准 RNN 架构通过将隐藏步拼接为一个全局线性分类器得到。该全局线性分类器以所有隐藏状态为输入，因此分类器的权重与隐藏状态存在线性映射。从而，由权重出发，NeuroView-RNN 可量化每个时间步对特定决策的重要性。作为额外好处，NeuroView-RNN 在许多情况下相较 RNN 及其变体还具有更高准确率。我们通过在多种不同时间序列数据集上的评估展示了 NeuroView-RNN 的优势。
引用
@article{arxiv.2202.11811,
title = {NeuroView-RNN: It's About Time},
author = {CJ Barberan and Sina Alemohammad and Naiming Liu and Randall Balestriero and Richard G. Baraniuk},
journal= {arXiv preprint arXiv:2202.11811},
year = {2022}
}
备注
21 pages, 13 figures, 9 tables