用于零样本跨语言事件论元抽取的多语言生成式语言模型
计算与语言
2022-03-17 v1
摘要
我们提出了一项利用多语言预训练生成式语言模型进行零样本跨语言事件论元抽取（EAE）的研究。通过将 EAE 表述为语言生成任务，我们的方法有效编码事件结构并捕获论元之间的依赖关系。我们设计了与语言无关的模板来表示事件论元结构，这些模板兼容任何语言，从而促进跨语言迁移。我们提出的模型微调多语言预训练生成式语言模型，以生成用从输入段落中抽取的论元填充与语言无关模板的句子。该模型在源语言上训练，然后直接应用于目标语言进行事件论元抽取。实验表明，所提出的模型在零样本跨语言 EAE 上优于当前最先进的模型。我们给出了综合研究和错误分析，以更好地理解使用生成式语言模型进行零样本跨语言迁移 EAE 的优势和当前局限。
引用
@article{arxiv.2203.08308,
title = {Multilingual Generative Language Models for Zero-Shot Cross-Lingual Event Argument Extraction},
author = {Kuan-Hao Huang and I-Hung Hsu and Premkumar Natarajan and Kai-Wei Chang and Nanyun Peng},
journal= {arXiv preprint arXiv:2203.08308},
year = {2022}
}
备注
ACL 2022. Our code is available at https://github.com/PlusLabNLP/X-Gear