装饰示例:一种用于生物医学关系抽取的提示设计简单方法
计算与语言
2022-04-25 v1
摘要
关系抽取是生物医学领域自然语言处理的核心问题。近期关系抽取研究表明,基于提示的学习在完整训练集微调与少样本训练上均提升了性能。然而,针对特定领域任务中良好提示设计更为困难的问题,已有努力较少。本文以ChemProt数据集上的实验研究生物医学关系抽取的提示方法。我们提出了一种简单而有效的方法,在简单提示表述下将关系抽取任务重构为完形填空任务,从而系统生成全面的提示。特别地,我们尝试了不同的排序分数用于提示选择。使用BioMed-RoBERTa-base,我们的结果表明基于提示的微调相较常规微调基线提升14.21 F1,并超越当前ChemProt上最优的SciFive-Large 1.14 F1。此外,我们发现基于提示的学习需要更少的训练样本即可做出合理预测。结果展示了我们的方法在此类特定领域关系抽取任务中的潜力。
引用
@article{arxiv.2204.10360,
title = {Decorate the Examples: A Simple Method of Prompt Design for Biomedical Relation Extraction},
author = {Hui-Syuan Yeh and Thomas Lavergne and Pierre Zweigenbaum},
journal= {arXiv preprint arXiv:2204.10360},
year = {2022}
}