RadBARTsum：面向放射学报告摘要的领域特定 BART 模型适配
计算与语言
2024-06-06 v1
摘要
放射学报告摘要是一项关键任务，能够帮助医生快速识别临床相关的发现，而无需仔细审查报告的各个章节。本研究提出 RadBARTsum，这是一种针对放射学报告 abstractive 摘要的领域特定和本体化辅助 BART 模型适配方法。该方法涉及两个主要步骤：1）在大型放射学报告语料库上重新训练 BART 模型，采用一种新颖的实体掩码策略以提高生物医学领域知识学习；2）使用 Findings 和 Background 章节微调模型，以预测 Impression 章节。我们进行了不同掩码策略的实验。结果表明，采用领域知识辅助掩码进行重新训练在各种设置下均能一致地提高性能。这一工作为放射学报告摘要提供了一个领域特定的生成式语言模型，并提出了一种利用医学知识实现实体掩码语言模型的方法。该提出的方法为通过深化对放射学报告中临床知识的理解来提高语言模型效率开辟了一条有前景的道路。
引用
@article{arxiv.2406.03062,
title = {RadBARTsum: Domain Specific Adaption of Denoising Sequence-to-Sequence Models for Abstractive Radiology Report Summarization},
author = {Jinge Wu and Abul Hasan and Honghan Wu},
journal= {arXiv preprint arXiv:2406.03062},
year = {2024}
}