强化自注意力网络：用于序列建模的硬注意力与软注意力混合模型

许多自然语言处理任务仅依赖于句子中少数词符之间的稀疏依赖关系。软注意力机制通过每两个词符之间的软概率对局部/全局依赖关系进行建模，表现出有前景的性能，但在应用于长句时效果不佳且效率低下。相比之下，硬注意力机制直接选择词符子集，但由于其组合性质，难以训练且效率不高。在本文中，我们将软注意力和硬注意力集成到一个上下文融合模型“强化自注意力（ReSA）”中，使二者相互受益。在 ReSA 中，硬注意力对序列进行裁剪以供软自注意力处理，而软注意力反馈奖励信号以促进硬注意力的训练。为此，我们提出了一种称为“强化序列采样（RSS）”的新型硬注意力，并行选择词符并通过策略梯度进行训练。利用两个 RSS 模块，ReSA 高效地提取每对所选词符之间的稀疏依赖关系。我们最终提出了一种无 RNN/CNN 的句子编码模型“强化自注意力网络（ReSAN）”，完全基于 ReSA。它在 Stanford Natural Language Inference (SNLI) 和 Sentences Involving Compositional Knowledge (SICK) 数据集上均达到了最先进的性能。