用于机器阅读的迭代交替神经注意力机制
计算与语言
2016-11-10 v4 神经与进化计算
摘要
我们提出了一种新颖的神经注意力架构来解决机器理解任务,例如针对文档回答完形填空式查询。与以往模型不同,我们不将查询折叠为单个向量,而是部署了一种迭代交替注意力机制,允许对查询和文档进行细粒度探索。我们的模型在标准机器理解基准测试中优于 SOTA 基线,如 CNN 新闻文章和 Children's Book Test (CBT) 数据集。
引用
@article{arxiv.1606.02245,
title = {Iterative Alternating Neural Attention for Machine Reading},
author = {Alessandro Sordoni and Philip Bachman and Adam Trischler and Yoshua Bengio},
journal= {arXiv preprint arXiv:1606.02245},
year = {2016}
}