ABCNN：用于句子对建模的基于注意力的卷积神经网络
计算与语言
2018-06-26 v4
摘要
如何建模一对句子是许多自然语言处理任务中的关键问题，如答案选择（AS）、同义句识别（PI）和文本蕴含（TE）。先前的大多数工作（i）通过微调特定系统来处理单一任务；（ii）分别建模每个句子的表示，很少考虑另一个句子的影响；或（iii）完全依赖人工设计的、任务特定的语言特征。本工作提出了一种通用的基于注意力的卷积神经网络（ABCNN），用于建模句子对。我们做出了三项贡献。（i）ABCNN 可应用于广泛需要建模句子对的任务。（ii）我们提出了三种注意力方案，将句子间的相互影响整合到卷积神经网络中；因此，每个句子的表示都考虑了其对应句子。这些相互依赖的句子对表示比孤立的句子表示更具表达力。（iii）ABCNN 在 AS、PI 和 TE 任务上取得了最先进的性能。
引用
@article{arxiv.1512.05193,
title = {ABCNN: Attention-Based Convolutional Neural Network for Modeling Sentence Pairs},
author = {Wenpeng Yin and Hinrich Schütze and Bing Xiang and Bowen Zhou},
journal= {arXiv preprint arXiv:1512.05193},
year = {2018}
}
备注
TACL Camera-ready