RAISE——放射学 AI 安全：一种端到端生命周期方法
人工智能
2023-11-27 v1 医学物理
摘要
将 AI 集成至放射学带来了改善临床诊疗与效率的机遇，但与其他任何新技术一样，需要审慎的方法以缓解潜在风险。从严格的部署前评估与验证开始，重点应确保模型在其预期应用中满足最高的安全性、有效性与效能标准。在生产使用期间实施的输入与输出防护栏充当附加保护层级，可在个体故障发生时识别并处理之。持续的部署后监测允许随时间跟踪群体层面性能（数据漂移）、公平性与价值交付。安排部署后模型性能评审并教育放射科医生有关新的算法驱动发现，对于 AI 在临床实践中的有效性至关重要。认识到即便限于预期用途，单一 AI 解决方案也无法提供绝对保证，因而强调在多层级——监管、临床、技术与伦理——上质量保障的协同应用。医疗系统、产业、学术界与政府间利益相关者的协作努力对于应对所涉及的多方面挑战必不可少。对 AI 的信任是一种赢得的特权，取决于广泛的一组目标，其中包括透明地证明 AI 遵循与其他既有医疗技术同样严格的安全性、有效性与效能标准。如此，开发者可在提供者与患者中建立信心，使 AI 的负责任扩展与其潜在益处的实现成为可能。本文提出的路线图旨在加速可部署、可靠且安全的放射学 AI 的实现。
引用
@article{arxiv.2311.14570,
title = {RAISE -- Radiology AI Safety, an End-to-end lifecycle approach},
author = {M. Jorge Cardoso and Julia Moosbauer and Tessa S. Cook and B. Selnur Erdal and Brad Genereaux and Vikash Gupta and Bennett A. Landman and Tiarna Lee and Parashkev Nachev and Elanchezhian Somasundaram and Ronald M. Summers and Khaled Younis and Sebastien Ourselin and Franz MJ Pfister},
journal= {arXiv preprint arXiv:2311.14570},
year = {2023}
}
备注
14 pages, 3 figures