多源序列到序列学习的注意力策略
计算与语言
2017-04-24 v1 神经与进化计算
摘要
尽管神经多源序列到序列学习在融合多源语言或模态的任务中有用，对其注意力建模仍相对未被探索。我们提出两种新颖方法以结合每个源序列上注意力机制的输出，即扁平与分层。我们将所提方法与现有技巧比较，并给出在 WMT16 多模态翻译与自动后期编辑任务上对这些方法的系统评估结果。我们展示所提方法在两项任务上均取得有竞争力的结果。
引用
@article{arxiv.1704.06567,
title = {Attention Strategies for Multi-Source Sequence-to-Sequence Learning},
author = {Jindřich Libovický and Jindřich Helcl},
journal= {arXiv preprint arXiv:1704.06567},
year = {2017}
}
备注
7 pages; Accepted to ACL 2017