基于注意力的卷积神经网络用于机器理解
计算与语言
2016-02-16 v1
摘要
理解开放域文本是自然语言处理（NLP）的主要挑战之一。机器理解基准仅基于文本内容评估系统理解文本的能力。在这项工作中，我们研究MCTest（一个问答（QA）基准）上的机器理解。先前的工作主要基于特征工程方法。我们提出了一种名为分层基于注意力的卷积神经网络（HABCNN）的神经网络框架，以在无任何人工设计特征的情况下解决该任务。具体地，我们通过两条路径探索HABCNN用于此任务：一是通过对文章、问题和答案的传统联合建模，二是通过文本蕴含。HABCNN采用注意力机制来检测与回答问题相关的关键短语、关键句子和关键片段。实验表明，HABCNN大幅优于先前的深度学习方法。
引用
@article{arxiv.1602.04341,
title = {Attention-Based Convolutional Neural Network for Machine Comprehension},
author = {Wenpeng Yin and Sebastian Ebert and Hinrich Schütze},
journal= {arXiv preprint arXiv:1602.04341},
year = {2016}
}
备注
7 pages, 4 figures