通过有效利用多任务学习模型与提及引导解码进行实体追踪
计算与语言
2023-02-14 v2
摘要
通过多任务学习的跨任务知识迁移近来在通用 NLP 任务中取得了显著进展。然而，由于程序文本上的实体追踪具有其独特的表述形式，即遵循结构约束追踪事件流，它尚未从此类知识迁移中受益。最先进的实体追踪方法要么设计复杂的模型架构，要么依赖任务特定的预训练以取得良好结果。为此，我们提出 MeeT，一种支持多任务学习的实体追踪方法，它利用从通用领域任务中获得的知识来改进实体追踪。具体而言，MeeT 首先用实体追踪专用的 QA 格式微调预训练多任务学习模型 T5，然后采用我们定制的解码策略以满足结构约束。MeeT 在两个流行的实体追踪数据集上取得了最先进的性能，尽管它不需要任何任务特定的架构设计或预训练。
引用
@article{arxiv.2210.06444,
title = {Entity Tracking via Effective Use of Multi-Task Learning Model and Mention-guided Decoding},
author = {Janvijay Singh and Fan Bai and Zhen Wang},
journal= {arXiv preprint arXiv:2210.06444},
year = {2023}
}
备注
9 pages, 1 figure, EACL 2023 Main Conference