基于领域内语言模型与多任务训练的诊断推理研究
计算与语言
2023-06-14 v2 机器学习
摘要
生成式人工智能(AI)是增强临床诊断决策支持并减少诊断错误(医疗错误的主要成因)的一个有前景的方向。为推动临床AI系统的发展,诊断推理基准(DR.BENCH)作为一个综合性的生成式AI框架被提出,其由代表临床推理关键组件的六项任务组成。我们针对DR.BENCH中的问题摘要任务(Gao et al., 2023),对领域内与领域外语言模型以及多任务与单任务训练进行了比较分析。我们证明,一个多任务、临床训练的语言模型大幅优于其通用领域对应模型,确立了新的最先进(SOTA)性能,ROUGE-L得分为28.55。本研究强调了领域特定训练对于优化临床诊断推理任务的价值。
引用
@article{arxiv.2306.04551,
title = {Multi-Task Training with In-Domain Language Models for Diagnostic Reasoning},
author = {Brihat Sharma and Yanjun Gao and Timothy Miller and Matthew M. Churpek and Majid Afshar and Dmitriy Dligach},
journal= {arXiv preprint arXiv:2306.04551},
year = {2023}
}
备注
Accepted to the Proceedings of the 5th Clinical NLP Workshop at ACL