生成式人工智能在质量改进和患者安全方面的潜力与风险
计算机与社会
2024-07-25 v1 人工智能
摘要
生成式人工智能（GenAI）通过自动化手段提升医疗质量和患者安全具有潜力。由预训练基础模型驱动的GenAI能够生成复杂内容，标志着从此前AI领域主导的面向特定任务的分类器向范式转变。我们认为，GenAI在医疗领域的应用将通过明确定义的、风险较低、价值较高且范围有限的应用实现，这些应用在医疗流程的临床端点进行自动化。这些模型将针对不同的能力和应用场景进行微调，能够提供医学解释，引用检索增强框架内的证据，并利用外部工具。我们与此相对的是一种通用、面向所有用途的人工智能模型，用于端到端临床决策，提升医护人员的表现，包括安全关键的诊断任务，这需要在实施前进行更广泛的研究。我们考虑在'人类在环'生成式AI可以改善医疗质量和安全的领域，通过自动化琐碎任务。将遵循实施科学原则对于集成被接受的医疗团队的'端到端'GenAI系统至关重要。
引用
@article{arxiv.2407.16902,
title = {The Potential and Perils of Generative Artificial Intelligence for Quality Improvement and Patient Safety},
author = {Laleh Jalilian and Daniel McDuff and Achuta Kadambi},
journal= {arXiv preprint arXiv:2407.16902},
year = {2024}
}