基于注意力机制精炼原始句子表示用于文本蕴含识别
计算与语言
2017-07-13 v2
摘要
本文介绍了 Rivercorners 团队在 2017 年 RepEval 共享任务中所使用的模型。首先，我们的模型使用双向长短期记忆网络(LSTM)将一对句子分别编码为变长表示。随后，通过简单的聚合函数生成定长原始表示，并利用注意力机制对其进行精炼。最后，将两句子的精炼表示组合为单一向量用于分类。该模型在匹配与不匹配评测赛道上的测试准确率分别达到 72.057% 和 72.055%，优于 LSTM 基线，且性能接近于依赖句子间共享信息的模型（ESIM）。使用集成方法后，两项准确率分别提升至 72.247% 和 72.827%。
引用
@article{arxiv.1707.03103,
title = {Refining Raw Sentence Representations for Textual Entailment Recognition via Attention},
author = {Jorge A. Balazs and Edison Marrese-Taylor and Pablo Loyola and Yutaka Matsuo},
journal= {arXiv preprint arXiv:1707.03103},
year = {2017}
}