利用 Q-Learning 辅助的选举方法建模 Bahdanau 注意力
机器学习
2019-12-10 v2 计算与语言
机器学习
摘要
随着越来越复杂但大幅改进的模型出现，神经机器翻译近来获得了大量“关注”。注意力机制通过为输入词分配权重，使解码器易于识别代表当前上下文的词，已被证明是此方向上的福音。但随著具有更高复杂度的新注意力模型不断被开发，它们涉及大量计算，导致推理缓慢。本文中，我们使用与社会选择理论共鸣的技术对注意力网络建模。此外，注意力机制作为一个马尔可夫决策过程，已用强化学习技术表示。因此，我们提议使用一种选举方法（-Borda），经 Q-learning 微调，作为注意力网络的替代。该网络的推理时间短于标准 Bahdanau 翻译器，且翻译结果相当。这不仅从实验上验证了上述主张，也助力实现了更快的推理。
引用
@article{arxiv.1911.03853,
title = {Modelling Bahdanau Attention using Election methods aided by Q-Learning},
author = {Rakesh Bal and Sayan Sinha},
journal= {arXiv preprint arXiv:1911.03853},
year = {2019}
}