输入-单元注意力缓解循环神经网络的显著性消失
机器学习
2019-10-29 v1 机器学习
摘要
近期提升深度神经网络可解释性的工作利用显著性来刻画输入特征对模型预测的重要性。基于显著性的方法在循环神经网络（RNN）上的可解释性研究多针对语言任务，其在时间序列数据上的适用性尚不明了。本文分析了经典与门控单元架构下RNN的显著性方法。我们表明，RNN的显著性随时间消失，导致显著特征仅偏向后期时间步，因而无法可靠地检测任意时间间隔内的重要特征。为解决该显著性消失问题，我们提出一种新颖的RNN单元结构（输入-单元注意力），可扩展任意RNN单元架构。在每个时间步，输入-单元注意力不使用当前输入向量，而是采用固定尺寸的矩阵嵌入，矩阵每一行关注当前或先前时间步的不同输入。利用合成数据，我们展示了输入-单元注意力RNN产生的显著性图能够忠实检测重要特征，无论其出现于何时。我们还将输入-单元注意力RNN应用于一项神经科学任务，分析执行多种任务的人体受试者的功能磁共振成像（fMRI）数据。在此，我们利用显著性来刻画对区分任务重要的脑区（输入特征）。我们表明，标准RNN架构仅能检测fMRI数据最后几个时间步的重要脑区，而输入-单元注意力模型能够跨时间检测重要脑区活动，无后期时间步偏置。
引用
@article{arxiv.1910.12370,
title = {Input-Cell Attention Reduces Vanishing Saliency of Recurrent Neural Networks},
author = {Aya Abdelsalam Ismail and Mohamed Gunady and Luiz Pessoa and Héctor Corrada Bravo and Soheil Feizi},
journal= {arXiv preprint arXiv:1910.12370},
year = {2019}
}