一种用于句法分析与句子理解的快速统一模型
计算与语言
2016-08-01 v3
摘要
树结构神经网络在解释句子含义时利用了有价值的句法分析信息。然而,它们存在两个关键技术问题,使其在大规模NLP任务中缓慢且笨重:它们通常在已解析的句子上操作,且不直接支持批量计算。我们通过引入栈增强的解析器-解释器神经网络(Stack-augmented Parser-Interpreter Neural Network, SPINN)来解决这些问题,该模型通过将树结构句子解释集成到移进-归约解析器的线性序列结构中,在单一的树-序列混合模型内结合了解析与解释。我们的模型支持批量计算,比其他树结构模型加速高达25倍,且其集成的解析器可在未解析数据上运行,精度损失很小。我们在Stanford NLI蕴含任务上对其进行了评估,结果表明它显著优于其他句子编码模型。
引用
@article{arxiv.1603.06021,
title = {A Fast Unified Model for Parsing and Sentence Understanding},
author = {Samuel R. Bowman and Jon Gauthier and Abhinav Rastogi and Raghav Gupta and Christopher D. Manning and Christopher Potts},
journal= {arXiv preprint arXiv:1603.06021},
year = {2016}
}
备注
To appear at ACL 2016