无需注意力机制:简单循环神经网络同样有效!(用于回答“简单”问题)
计算与语言
2017-07-31 v2
摘要
一阶事实问答假设问题可以通过知识库(KB)中的单个事实来回答。虽然这看起来不是一项具有挑战性的任务,但近期许多采用复杂语言推理或深度神经网络的尝试在基准测试集上仅达到了 65%-76% 的准确率。我们的方法将该任务表述为两个机器学习问题:检测问题中的实体,以及将问题分类为 KB 中的关系类型之一。我们训练循环神经网络来解决每个问题。在 SimpleQuestions 数据集上,我们的方法比已发表的结果取得了实质性改进——甚至优于基于复杂得多的架构的神经网络。我们方法的简单性也具有实际优势,例如效率和模块化,这在工业环境中尤其有价值。事实上,我们对我们的模型在 Comcast X1 娱乐平台上每天数百万用户的真实查询上的性能进行了初步分析。
引用
@article{arxiv.1606.05029,
title = {No Need to Pay Attention: Simple Recurrent Neural Networks Work! (for Answering "Simple" Questions)},
author = {Ferhan Ture and Oliver Jojic},
journal= {arXiv preprint arXiv:1606.05029},
year = {2017}
}
备注
7 pages, to appear in EMNLP 2017