用于抽取的提示?PAIE:面向事件论元抽取的参数交互提示方法
计算与语言
2022-03-29 v2 人工智能
摘要
在本文中,我们提出了一种有效且高效的模型 PAIE,用于句子级和文档级的事件论元抽取(EAE),并且在缺乏训练数据时也具有很好的泛化能力。一方面,PAIE 利用提示微调(prompt tuning)处理抽取目标,以充分利用预训练语言模型(PLMs)的优势。它基于提示引入两个跨度选择器,为每个角色在输入文本中选择起始/结束词元。另一方面,它通过多角色提示捕获论元交互,并通过二部匹配损失以最优跨度分配进行联合优化。此外,借助灵活的提示设计,PAIE 可以抽取同一角色的多个论元,而无需传统的启发式阈值调优。我们在三个基准上进行了大量实验,包括句子级和文档级 EAE。结果显示 PAIE 带来了可观的提升(在三个基准上,PAIE-base 和 PAIE-large 平均分别获得 3.5% 和 2.3% 的 F1 增益)。进一步分析证明了不同抽取式提示微调策略的效率、对少样本设置的泛化能力以及有效性。我们的代码可在 https://github.com/mayubo2333/PAIE 获取。
引用
@article{arxiv.2202.12109,
title = {Prompt for Extraction? PAIE: Prompting Argument Interaction for Event Argument Extraction},
author = {Yubo Ma and Zehao Wang and Yixin Cao and Mukai Li and Meiqi Chen and Kun Wang and Jing Shao},
journal= {arXiv preprint arXiv:2202.12109},
year = {2022}
}
备注
Accepted by ACL 2022 main conference