面向 AMR 解析的层次化课程学习
计算与语言
2022-04-27 v5
摘要
抽象语义表示（AMR）解析旨在将句子翻译为具有层次结构的语义表示，近期得益于预训练的序列到序列模型而得到增强。然而，其平坦的训练目标（即平等对待所有输出标记）与层次化的 AMR 结构之间存在差距，这限制了模型的泛化能力。为弥合这一差距，我们提出了一个包含结构级课程（SC）和实例级课程（IC）的层次化课程学习（HCL）框架。SC 在训练过程中逐步从核心 AMR 语义元素切换到细节元素，而 IC 则从结构简单的 AMR 实例过渡到结构复杂的实例。通过这两个预热过程，HCL 降低了学习复杂结构的难度，从而使平坦模型能更好地适应 AMR 的层次结构。在 AMR2.0、AMR3.0、结构复杂场景和分布外情况上的大量实验验证了 HCL 的有效性。
引用
@article{arxiv.2110.07855,
title = {Hierarchical Curriculum Learning for AMR Parsing},
author = {Peiyi Wang and Liang Chen and Tianyu Liu and Damai Dai and Yunbo Cao and Baobao Chang and Zhifang Sui},
journal= {arXiv preprint arXiv:2110.07855},
year = {2022}
}
备注
ACL2022 short paper; Code and model are available a https://github.com/Wangpeiyi9979/HCL-Text2AMR