PCFGs可以做得更好:利用多符号诱导概率上下文无关文法
计算与语言
2021-04-29 v1
摘要
具有神经参数化的概率上下文无关文法(PCFGs)已被证明在无监督短语结构文法诱导中是有效的。然而,由于PCFG表示与解析的立方计算复杂度,以往方法无法扩展到相对大量的(非终结符和预终结符)符号。本工作中,我们提出一种基于张量分解的PCFG新参数化形式,其符号数量上的计算复杂度至多二次,从而允许我们使用多得多的符号。我们进一步对新形式使用神经参数化以改进无监督解析性能。我们在十种语言上评估模型并实证展示了使用更多符号的有效性。我们的代码:https://github.com/sustcsonglin/TN-PCFG
引用
@article{arxiv.2104.13727,
title = {PCFGs Can Do Better: Inducing Probabilistic Context-Free Grammars with Many Symbols},
author = {Songlin Yang and Yanpeng Zhao and Kewei Tu},
journal= {arXiv preprint arXiv:2104.13727},
year = {2021}
}
备注
NAACL 2021