KECP：面向少样本抽取式问答的知识增强对比提示
计算与语言
2022-05-09 v1 人工智能
摘要
抽取式问答（EQA）是机器阅读理解（MRC）中最重要的任务之一，可通过微调预训练语言模型（PLMs）的跨度选择头来解决。然而，大多数现有的MRC方法在少样本学习场景下表现不佳。为解决此问题，我们提出了一种名为知识增强对比提示微调（KECP）的新框架。我们未向PLMs添加指针头，而是引入了一种将EQA任务转化为非自回归掩码语言建模（MLM）生成问题的开创性范式。同时，来自外部知识库（KB）和篇章上下文的丰富语义被用于增强查询的表示。此外，为提升PLMs性能，我们通过MLM和对比学习目标联合训练模型。在多个基准上的实验表明，我们的方法在少样本设置下以较大优势持续优于最先进的（SOTA）方法。
引用
@article{arxiv.2205.03071,
title = {KECP: Knowledge Enhanced Contrastive Prompting for Few-shot Extractive Question Answering},
author = {Jianing Wang and Chengyu Wang and Minghui Qiu and Qiuhui Shi and Hongbin Wang and Jun Huang and Ming Gao},
journal= {arXiv preprint arXiv:2205.03071},
year = {2022}
}