探查与微调阅读理解模型用于少样本事件抽取
计算与语言
2020-10-23 v1
摘要
我们研究从文本数据中进行事件抽取的问题，该任务既需要检测目标事件类型，也需要检测其论元。通常，事件检测与论元检测这两个子任务都被形式化为有监督序列标注问题。我们认为，如此训练的事件抽取模型本质上依赖大量标注数据，且跨领域与跨文本体裁的泛化能力较差。我们提出一种用于事件抽取的阅读理解框架。具体而言，我们将事件检测形式化为文本蕴含预测问题，将论元检测形式化为问答问题。通过构建恰当的查询模板，我们的方法能够有效从预训练阅读理解模型中蒸馏出关于任务与标签语义的丰富知识。此外，我们的模型可使用少量数据进行微调以提升性能。实验结果表明，我们的方法在零样本与少样本事件抽取上表现强劲，并且在全监督训练下于 ACE 2005 基准上取得了最先进的性能。
引用
@article{arxiv.2010.11325,
title = {Probing and Fine-tuning Reading Comprehension Models for Few-shot Event Extraction},
author = {Rui Feng and Jie Yuan and Chao Zhang},
journal= {arXiv preprint arXiv:2010.11325},
year = {2020}
}