变分神经篇章关系识别器
计算与语言
2016-09-27 v2
摘要
隐式篇章关系识别是自动篇章级分析和自然语言理解的关键组成部分。以往研究利用构建于强大手动特征或深度篇章表示上的判别模型。本文中,我们转而探索生成模型,并提出一种变分神经篇章关系识别器。我们将此模型称为 VarNDRR。VarNDRR 建立了一个带有潜连续变量的有向概率模型,该变量生成篇章及篇章两个论点之间的关系。为了进行高效推断和学习,我们引入神经篇章关系模型来近似潜变量的先验和后验分布,并利用这些近似分布优化重参数化变分下界。这使得 VarNDRR 能够使用标准随机梯度方法进行训练。在基准数据集上的实验表明,VarNDRR 在不使用任何手动特征的情况下,能够取得与最先进基线相当的结果。
引用
@article{arxiv.1603.03876,
title = {Variational Neural Discourse Relation Recognizer},
author = {Biao Zhang and Deyi Xiong and Jinsong Su and Qun Liu and Rongrong Ji and Hong Duan and Min Zhang},
journal= {arXiv preprint arXiv:1603.03876},
year = {2016}
}
备注
10 pages, accepted at emnlp 2016