HealthPrompt：面向临床自然语言处理的零样本学习范式
计算与语言
2022-03-11 v1 人工智能
信息检索
摘要
深度学习算法依赖于大规模标注临床文本数据集的可用性。此类公开数据集的缺乏是临床自然语言处理 (NLP) 系统发展的最大瓶颈。零样本学习 (ZSL) 是指使用深度学习模型对未见训练数据的新类实例进行分类。基于提示的学习是一种新兴的 ZSL 技术，我们在其中为 NLP 任务定义基于任务的模板。我们开发了一个名为 HealthPrompt 的新型基于提示的临床 NLP 框架，并将基于提示的学习范式应用于临床文本。在这项技术中，我们不是微调预训练语言模型 (PLM)，而是通过定义提示模板来调整任务定义。我们在无数据设置下对六个不同的 PLM 上的 HealthPrompt 进行了深入分析。我们的实验证明，提示能有效捕获临床文本的上下文，并在没有任何训练数据的情况下表现优异。
引用
@article{arxiv.2203.05061,
title = {HealthPrompt: A Zero-shot Learning Paradigm for Clinical Natural Language Processing},
author = {Sonish Sivarajkumar and Yanshan Wang},
journal= {arXiv preprint arXiv:2203.05061},
year = {2022}
}