注意力增强的序列推理模型
计算与语言
2018-12-07 v2
摘要
注意力机制已被证明在自然语言处理中行之有效。本文提出一种名为 aESIM 的注意力增强自然语言推理模型，通过在传统双向 LSTM 层（如 ESIM）中增添词注意力与自适应方向导向注意力机制，使推理模型 aESIM 能够有效学习词表示，并对前提与假设对之间的局部子句级推理建模。在 SNLI、MultiNLI 和 Quora 基准上的实证研究表明，aESIM 优于原始 ESIM 模型。
引用
@article{arxiv.1812.01840,
title = {Attention Boosted Sequential Inference Model},
author = {Guanyu Li and Pengfei Zhang and Caiyan Jia},
journal= {arXiv preprint arXiv:1812.01840},
year = {2018}
}