放射学中面向开源权重大型语言模型的安全本地部署:一种以隔离为首的架构及其前瞻性试点评估
计算机与社会
2026-04-28 v1 计算与语言
摘要
目的:设计、实现、评估并报告遵循最小特权原则的自托管大型语言模型基础设施,强调技术可行性、网络隔离与临床实用性。材料与方法:该以隔离为首的容器化语言模型推理堆栈依赖严格的网络分段、主机强制的出站过滤以及主动的隔离监控,以防止未授权的外部连接。附带的部署包提供自动化的隔离与硬化测试。该系统通过 vLLM 提供开源权重 DeepSeek-R1 模型服务。在一周的试点期间,22 名放射科医生和住院医生可自由使用 10 个预定义的提示模板。事后,他们以 0-10 的 Likert 比例尺评估临床实用性和系统稳定性,并报告观察到的关键模型输出错误。结果:所采用的制度治理路径获得了诊所管理层、合规、数据保护和信息安全官员的 unanimous(一致)批准,以处理未匿名化的 PHI。试点期间,该系统被评为稳定且用户友好。源文本锚定任务(如报告纠正或简化)和放射学指南推荐获得最高的实用性评分,而基于发现的开放式结论生成则出现最多的关键错误,包括临床相关的幻觉或遗漏。结论:所提出的以隔离为首的本地架构实现了规避监管障碍,在文本锚定任务中展现出有前景的临床实用性,目前已成为德国某拥有 10,000 名员工的大学医院官方服务开源权重大型语言模型的基础。该部署包已公开发布(https://github.com/ukbonn/ukb-gpt)。
引用
@article{arxiv.2604.22768,
title = {Secure On-Premise Deployment of Open-Weights Large Language Models in Radiology: An Isolation-First Architecture with Prospective Pilot Evaluation},
author = {Sebastian Nowak and Jann-Frederick Laß and Narine Mesropyan and Babak Salam and Nico Piel and Mohammed Bahaaeldin and Wolfgang Block and Alois Martin Sprinkart and Julian Alexander Luetkens and Benjamin Wulff and Alexander Isaak},
journal= {arXiv preprint arXiv:2604.22768},
year = {2026}
}
备注
39 pages, 4 figures, 3 tables