基于全局与局部联合视图的答案选择注意力机制
计算与语言
2017-09-21 v4
摘要
我们提出一种新的用于基于神经网络的问答的注意力机制,其依赖于输入的不同粒度。先前的工作侧重于用简单的注意力机制增强循环神经网络,这些机制是问题嵌入与答案嵌入随时间相似度的函数。我们通过使注意力机制依赖于使用单独网络获得的答案的全局嵌入来扩展这一点。我们在大型问答数据集 InsuranceQA 上评估我们的系统。我们的模型在 InsuranceQA 上超越了当前最先进的成果。此外,我们可视化注意力机制聚焦的文本段落,并探索其在不同参数设置下的性能。
引用
@article{arxiv.1707.01378,
title = {An Attention Mechanism for Answer Selection Using a Combined Global and Local View},
author = {Yoram Bachrach and Andrej Zukov-Gregoric and Sam Coope and Ed Tovell and Bogdan Maksak and Jose Rodriguez and Conan McMurtie},
journal= {arXiv preprint arXiv:1707.01378},
year = {2017}
}