中文

临床T5模型是否更适用于临床文本?

计算与语言 2024-12-10 v1

摘要

基于Transformer编码器-解码器架构的大型语言模型(如T5)已成为监督学习任务的标准平台。为了将这些技术引入临床领域,近期工作训练了新的模型或对现有模型进行了临床数据适配。然而,对这些临床T5模型的评估以及与其他模型的比较仍然有限。临床T5模型是否比经过FLAN微调的通用T5模型是更好的选择?它们能否更好地泛化到与训练集不同的新临床领域?我们在多个临床任务和领域上对这些模型进行了全面评估。我们发现,临床T5模型相对于现有模型仅带来边际性能提升,并且在针对不同领域进行评估时表现更差。我们的研究结果为未来开发临床大语言模型的选择提供了参考。

关键词

引用

@article{arxiv.2412.05845,
  title  = {Are Clinical T5 Models Better for Clinical Text?},
  author = {Yahan Li and Keith Harrigian and Ayah Zirikly and Mark Dredze},
  journal= {arXiv preprint arXiv:2412.05845},
  year   = {2024}
}

备注

Proceedings of Machine Learning for Health (ML4H) Symposium 2024, December 15th, 2024, Vancouver, Canada, 32 pages