利用平均场推断为二阶语义依存分析建模标签相关性
计算与语言
2022-04-08 v1 机器学习
摘要
端到端的均值场推断二阶语义解析已展现出良好的性能。在这项工作中,我们旨在通过建模相邻弧之间的标签相关性来改进此方法。然而,直接建模会导致内存爆炸,因为二阶得分张量的大小为 ( 是句子长度, 是标签数量),这是无法承受的。为了解决这一计算挑战,我们利用了张量分解技术,并且有趣的是,我们证明了在均值场推断过程中无需具体化大型的二阶得分张量,从而将计算复杂度从立方级降低到平方级。我们在 SemEval 2015 任务 18 的英文数据集上进行了实验,展示了建模标签相关性的有效性。我们的代码已公开在 https://github.com/sustcsonglin/mean-field-dep-parsing。
引用
@article{arxiv.2204.03619,
title = {Modeling Label Correlations for Second-Order Semantic Dependency Parsing with Mean-Field Inference},
author = {Songlin Yang and Kewei Tu},
journal= {arXiv preprint arXiv:2204.03619},
year = {2022}
}
备注
12 pages