面向领域自适应的共指消解中跨度表示的改进
机器学习
2021-09-22 v1 计算与语言
摘要
近期研究表明,微调神经共指模型在适应不同领域时可产生强劲性能。然而,与此同时,这可能需要大量标注的目标领域样本。在本工作中,我们聚焦于临床笔记的有监督领域自适应,提出利用概念知识更高效地将共指模型适配到新领域。我们开发了通过以下方式改进跨度表示的方法:(1)一种重构损失,以激励跨度表示满足基于知识的距离函数;(2)一种脚手架损失,以引导从跨度表示中恢复知识。通过整合这些损失,我们的模型能够改进基线的精确率与F-1分数。特别地,我们表明将知识与端到端共指模型相结合,可在最具挑战性的领域特定跨度上获得更好的性能。
引用
@article{arxiv.2109.09811,
title = {Improving Span Representation for Domain-adapted Coreference Resolution},
author = {Nupoor Gandhi and Anjalie Field and Yulia Tsvetkov},
journal= {arXiv preprint arXiv:2109.09811},
year = {2021}
}