探索用于神经成分句法分析的非局部特征
计算与语言
2022-03-29 v2
摘要
得益于神经编码器强大的表示能力,基于神经图表的分析器通过使用局部特征取得了极具竞争力的性能。最近有研究表明,CRF 结构中的非局部特征能带来性能提升。在本文中,我们通过预测成分 n-gram 非局部模式并确保非局部模式与局部成分之间的一致性,研究了将非局部特征注入基于局部跨度的分析器训练过程。结果表明,在 PTB 和 CTB 上,我们的简单方法比自注意力分析器获得了更好的结果。此外,我们的方法在 PTB 上实现了基于 BERT 的最先进性能(95.92 F1),并在 CTB 上取得了强劲表现(92.31 F1)。与基线相比,我们的分析器在多语言和零样本跨领域设置中也取得了更好或具有竞争力的性能。
引用
@article{arxiv.2109.12814,
title = {Investigating Non-local Features for Neural Constituency Parsing},
author = {Leyang Cui and Sen Yang and Yue Zhang},
journal= {arXiv preprint arXiv:2109.12814},
year = {2022}
}
备注
ACL 2022