RadPhi-3：用于放射学的小型语言模型
计算机视觉与模式识别
2024-11-22 v1 计算与语言
机器学习
摘要
基于大型语言模型的副驾驶助手在日常任务中非常有用。在可靠地支持放射学工作流程的AI助手用例探索方面，出现了大量研究。在这项工作中，我们提出了RadPhi-3，这是一个从Phi-3-mini-4k-instruct指令微调而来的小型语言模型，具有3.8B参数，用于协助放射学工作流程中的各种任务。虽然印象摘要生成是先前工作中关于胸部X光放射学报告探索的主要任务，但我们也探索了其他有用的任务，例如比较当前放射学报告及其先前报告的变更摘要生成、从放射学报告中提取章节、用各种病理以及其中存在的导管、管线或设备对报告进行标记等。此外，RadPhi-3的指令微调涉及从放射科医生使用的可信知识源Radiopaedia.org学习。RadPhi-3既可用于为放射学相关查询提供可靠答案，也可用于执行与放射学报告相关的有用任务。RadPhi-3在RaLEs放射学报告生成基准上达到了最先进的结果。
引用
@article{arxiv.2411.13604,
title = {RadPhi-3: Small Language Models for Radiology},
author = {Mercy Ranjit and Shaury Srivastav and Tanuja Ganu},
journal= {arXiv preprint arXiv:2411.13604},
year = {2024}
}