高性能 GPU 资源在基于大语言模型的放射影像诊断中的作用
组织与器官
2025-11-11 v2 计算与语言
图像与视频处理
医学物理
摘要
大语言模型（LLM）正迅速应用于放射学领域，实现了自动化的图像解读和报告生成任务。它们在临床实践中的部署既需要高诊断准确性，也需要低推理延迟，这反过来又要求强大的硬件支持。高性能图形处理单元（GPU）提供了运行大型 LLM 处理影像数据所需的计算和内存吞吐量。我们回顾了现代 GPU 架构（例如 NVIDIA A100/H100、AMD Instinct MI250X/MI300）以及浮点吞吐量、内存带宽、显存容量等关键性能指标。我们展示了这些硬件能力如何影响放射学任务：例如，在 CheXpert 和 MIMIC-CXR 图像上生成报告或检测发现是计算密集型的，并受益于 GPU 并行性和张量核心加速。实证研究表明，使用合适的 GPU 资源可以减少推理时间并提高吞吐量。我们讨论了实际挑战，包括隐私、部署、成本、功耗以及优化策略：混合精度、量化、压缩和多 GPU 扩展。最后，我们预计下一代特性（8 位张量核心、增强的互连）将进一步赋能本地部署和联邦放射学人工智能。推进 GPU 基础设施对于安全、高效的基于 LLM 的放射学诊断至关重要。
引用
@article{arxiv.2509.16328,
title = {The Role of High-Performance GPU Resources in Large Language Model Based Radiology Imaging Diagnosis},
author = {Jyun-Ping Kao},
journal= {arXiv preprint arXiv:2509.16328},
year = {2025}
}