用于复述识别、语义文本相似度、自然语言推理与问答的神经网络模型
计算与语言
2018-08-24 v2
摘要
在本文中，我们分析了若干用于句子对建模的神经网络设计（及其变体），并在八个数据集上广泛比较了它们的性能，包括复述识别、语义文本相似度、自然语言推理和问答任务。尽管这些模型大多声称达到了最先进的性能，但原始论文通常仅在一两个选定数据集上进行了报告。我们提供了一项系统性研究并表明：(i) 通过 LSTM 编码上下文信息以及句间交互至关重要；(ii) Tree-LSTM 并不像先前声称的那样有用，但出人意料地提升了在 Twitter 数据集上的性能；(iii) 增强型顺序推理模型（Enhanced Sequential Inference Model）迄今为止在较大数据集上表现最佳，而 Pairwise Word Interaction Model 在可用数据较少时取得最佳性能。我们将我们的实现作为开源工具包发布。
引用
@article{arxiv.1806.04330,
title = {Neural Network Models for Paraphrase Identification, Semantic Textual Similarity, Natural Language Inference, and Question Answering},
author = {Wuwei Lan and Wei Xu},
journal= {arXiv preprint arXiv:1806.04330},
year = {2018}
}
备注
13 pages; accepted to COLING 2018