高斯混合潜向量文法
计算与语言
2018-05-15 v1 机器学习
摘要
我们引入了潜向量文法(Latent Vector Grammars, LVeGs),这是一个扩展潜变量文法的新框架,使得每个非终结符与一个连续向量空间相关联,该空间表示该非终结符的(无限多个)子类型集合。我们表明,先前的模型(如潜变量文法和组合向量文法)可以被解释为 LVeGs 的特例。然后,我们提出了高斯混合潜向量文法(Gaussian Mixture LVeGs, GM-LVeGs),这是 LVeGs 的一个新特例,使用高斯混合来制定非终结符子类型产生式的权重。使用高斯混合的一个主要优点是,配分函数和子类型规则的期望可以通过内外算法(inside-outside algorithm)的扩展来计算,从而实现高效的推理与学习。我们将 GM-LVeGs 应用于词性标注和成分句法分析,并表明 GM-LVeGs 能够达到有竞争力的准确率。我们的代码可在 https://github.com/zhaoyanpeng/lveg 获取。
引用
@article{arxiv.1805.04688,
title = {Gaussian Mixture Latent Vector Grammars},
author = {Yanpeng Zhao and Liwen Zhang and Kewei Tu},
journal= {arXiv preprint arXiv:1805.04688},
year = {2018}
}
备注
Accepted to ACL 2018