e-Health CSIRO 在 RRG24 的 CXR 影像报告生成中的熵增式自关键序列训练
计算机视觉与模式识别
2024-08-08 v1
摘要
大规模胸腔 X 光 (CXR) 影像报告生成共享任务 (RRG24) 旨在加速辅助 CXR 影像解读与报告系统的开发。该任务挑战参赛者开发能从患者检查所得的多数据源 CXR 影像中，生成报告中 findings 部分和 impression 部分的模型。本文概述了 e-Health CSIRO 团队的方法，该方法在 RRG24 中赢得多项第一名。我们方法的核心创新在于在自关键序列训练中加入熵正则化，以维持 token 分布的较高熵。此举可防止模型过度拟合常见短语，确保训练期间对词汇的更广泛探索，这对于处理 RRG24 数据集中报告的多样性至关重要。我们的模型已在 Hugging Face 上发布：https://huggingface.co/aehrc/cxrmate-rrg24。
引用
@article{arxiv.2408.03500,
title = {e-Health CSIRO at RRG24: Entropy-Augmented Self-Critical Sequence Training for Radiology Report Generation},
author = {Aaron Nicolson and Jinghui Liu and Jason Dowling and Anthony Nguyen and Bevan Koopman},
journal= {arXiv preprint arXiv:2408.03500},
year = {2024}
}