基于条件Transformer生成医疗处方
计算与语言
2023-11-21 v2 人工智能
机器学习
摘要
获取真实世界的药物处方对于医学研究和医疗质量改进至关重要。然而，由于所表达信息的敏感性，真实药物处方的获取通常受到限制。此外，为训练和微调自然语言处理（NLP）模型而手动标注这些指令可能繁琐且昂贵。我们提出了一种新颖的任务专用模型架构，Label-To-Text-Transformer（\textbf{LT3}），旨在基于所提供的标签（例如药物及其属性的词汇表）生成合成药物处方。LT3在从MIMIC-III数据库提取的约2K行药物处方集合上训练，使模型能够生成有价值的合成药物处方。我们通过将LT3与最先进的预训练语言模型（PLM）T5进行对比，分析生成文本的质量与多样性，从而评估LT3的性能。我们利用生成的合成数据训练SpacyNER模型，用于在n2c2-2018数据集上执行命名实体识别（NER）任务。实验表明，在合成数据上训练的模型在药物、频次、途径、强度和剂型的标签识别上可达到96-98%的F1分数。LT3的代码与数据将在\url{https://github.com/HECTA-UoM/Label-To-Text-Transformer}共享。
引用
@article{arxiv.2310.19727,
title = {Generating Medical Prescriptions with Conditional Transformer},
author = {Samuel Belkadi and Nicolo Micheletti and Lifeng Han and Warren Del-Pinto and Goran Nenadic},
journal= {arXiv preprint arXiv:2310.19727},
year = {2023}
}
备注
Accepted to: Workshop on Synthetic Data Generation with Generative AI (SyntheticData4ML Workshop) at NeurIPS 2023