大语言模型是少样本临床信息抽取器
计算与语言
2022-12-01 v2 人工智能
摘要
临床 NLP 社区一个长期的目标是从临床笔记中抽取出被困住的重要变量。然而，阻碍包括来自通用领域的 dataset shift（数据集偏移）以及缺乏公开临床语料库和标注。在这项工作中，我们展示了大语言模型（如 InstructGPT）尽管未专门针对临床领域训练，仍能在临床文本的零样本和少样本信息抽取中表现良好。尽管此类模型的文本分类和生成性能已被广泛研究，我们在此进一步展示如何利用它们应对需要更结构化输出的多样 NLP 任务，包括跨度识别、词元级序列分类和关系抽取。此外，由于可用于评估这些系统的数据匮乏，我们基于 CASI 数据集的手动重新标注新任务，引入了用于基准测试少样本临床信息抽取的新数据集。在我们研究的临床抽取任务上，GPT-3 系统显著优于现有的零样本和少样本基线。
引用
@article{arxiv.2205.12689,
title = {Large Language Models are Few-Shot Clinical Information Extractors},
author = {Monica Agrawal and Stefan Hegselmann and Hunter Lang and Yoon Kim and David Sontag},
journal= {arXiv preprint arXiv:2205.12689},
year = {2022}
}
备注
Accepted as a long paper to The 2022 Conference on Empirical Methods in Natural Language Processing (EMNLP)