比较、压缩与传播：通过对齐分解增强自然语言推理的神经架构
计算与语言
2018-09-11 v2 人工智能
摘要
本文提出一种用于自然语言推理（NLI）的新深度学习架构。首先，我们引入一种新架构，其中对齐对被比较、压缩，然后传播至上层以增强表示学习。其次，我们采用分解层将对齐向量高效且具表达力地压缩为标量特征，进而用于增强基础词表示。我们的方法设计旨在概念简单、紧凑而强大。我们在三个流行基准SNLI、MultiNLI和SciTail上进行实验，在所有基准上均取得有竞争力的性能。我们模型的轻量化参数化相比现有最先进模型（如ESIM和DIIN）还享有约倍的参数规模缩减，同时保持有竞争力的性能。此外，可视化分析表明我们传播的特征具有高度可解释性。
引用
@article{arxiv.1801.00102,
title = {Compare, Compress and Propagate: Enhancing Neural Architectures with Alignment Factorization for Natural Language Inference},
author = {Yi Tay and Luu Anh Tuan and Siu Cheung Hui},
journal= {arXiv preprint arXiv:1801.00102},
year = {2018}
}
备注
EMNLP 2018 CRC and Update CAFE + ELMo result on SNLI