一种以人为中心的方法:识别放射学中文本到图像生成式 AI 的前景、风险与挑战
人机交互
2025-09-16 v2 人工智能
计算机与社会
摘要
随着文本到图像生成模型的快速改进,AI 研究人员在开发能够根据文本提示生成复杂医学图像的领域专用模型方面取得了重大进展。尽管如此,这些技术进步忽略了医疗专业人员是否以及如何在实际中受益于并使用文本到图像生成式 AI (GenAI)。在不涉及利益相关者的情况下开发领域专用 GenAI,我们面临着构建出的模型要么无用、甚至弊大于利的风险。在本文中,我们采用以人为中心的负责任模型开发方法,让利益相关者参与评估和反思一种新型文本到 CT 扫描 GenAI 模型的前景、风险和挑战。通过探索性的模型提示活动,我们揭示了医学生、放射科实习生和放射科医师对文本到 CT 扫描 GenAI 在医学教育、培训和实践中所能发挥作用的看法。这种以人为中心的方法还使我们能够揭示生成合成医学图像的技术挑战和领域特定风险。我们最后对医学文本到图像 GenAI 的影响进行了反思。
引用
@article{arxiv.2507.16207,
title = {A Human-Centered Approach to Identifying Promises, Risks, & Challenges of Text-to-Image Generative AI in Radiology},
author = {Katelyn Morrison and Arpit Mathur and Aidan Bradshaw and Tom Wartmann and Steven Lundi and Afrooz Zandifar and Weichang Dai and Kayhan Batmanghelich and Motahhare Eslami and Adam Perer},
journal= {arXiv preprint arXiv:2507.16207},
year = {2025}
}
备注
10 pages of main content, Appendix attached after references, accepted to AAAI/ACM AIES 2025