为循环神经网络神经元增添注意力机制
计算机视觉与模式识别
2018-07-13 v1
摘要
循环神经网络（RNNs）能够对复杂序列信息的时序动态进行建模。然而，现有 RNN 神经元的结构主要侧重于控制当前与历史信息的贡献，却未探索一个时间槽内输入向量中不同元素的不同重要程度。我们提出向 RNN 块（例如网络层中的所有 RNN 神经元）添加一个简单而有效的逐元素注意力门（EleAttG），使 RNN 神经元具备注意力能力。对于一个 RNN 块，添加一个 EleAttG 以自适应地调制输入，通过对输入的每个元素/维度赋予不同级别的重要性（即注意力）。我们将配备了 EleAttG 的 RNN 块称为 EleAtt-RNN 块。具体而言，输入的调制是内容自适应的，并且在细粒度上执行，即逐元素而非逐输入。所提出的 EleAttG 作为一个额外的基元，具有通用性，可应用于任何 RNN 结构，例如标准 RNN、长短期记忆（LSTM）或门控循环单元（GRU）。我们通过将所提出的 EleAtt-RNN 应用于基于 3D 人体骨架数据和 RGB 视频的动作识别任务，证明了其有效性。实验表明，通过 EleAttG 向 RNN 块添加注意力显著增强了 RNN 的能力。
引用
@article{arxiv.1807.04445,
title = {Adding Attentiveness to the Neurons in Recurrent Neural Networks},
author = {Pengfei Zhang and Jianru Xue and Cuiling Lan and Wenjun Zeng and Zhanning Gao and Nanning Zheng},
journal= {arXiv preprint arXiv:1807.04445},
year = {2018}
}
备注
ECCV2018