面向医生的对话诊断 AI 监督的探索
人工智能
2025-07-22 v1 计算与语言
人机交互
机器学习
摘要
最近的研究表明，对话式 AI 系统在诊断对话中具有巨大的潜力。然而，实际中保障患者安全意味着，提供个体化诊断和治疗方案的行为需由持证专业人员进行监管。此外，医生通常会监督其他团队成员在此类活动中的工作，包括护理士实习员 (NP) 或医师助理/协作员 (PA)。鼓舞于此，我们提出一种有效的、异步的监督框架，用于监督 Articulate Medical Intelligence Explorer (AMIE) AI 系统。我们提出的 g-AMIE（guardrailed-AMIE），是一个多智能体系统，在约束条件下进行病史收集，不提供个体化的医疗建议。随后，g-AMIE 将评估结果传递给负责临床决策的主诊医生 (PCP)，并通过临床驾驶舱界面进行交互。PCP 提供监督并保留临床决策的责任。这有效地将监督与初步诊断分离，因而可以实现异步进行。在一项随机、盲态的虚拟客观结构临床考试 (OSCE) 中，对比了 g-AMIE 与 NP/PA 或一组在相同约束条件下的 PCP。在 60 个情景中，g-AMIE 在高质量病史采集、病例概述以及提出诊断和管理计划方面均优于两组，从而导致更高质量的综合决策。PCP 对 g-AMIE 的监督也比先前工作中独立的 PCP 诊断更高效。虽然本研究未复制现有的临床实践，可能低估了医护人员的能力，但结果表明，异步监督作为一种可行的范式，能够帮助诊断 AI 系统在专家人类监督下实现实际应用，从而提升护理质量。
引用
@article{arxiv.2507.15743,
title = {Towards physician-centered oversight of conversational diagnostic AI},
author = {Elahe Vedadi and David Barrett and Natalie Harris and Ellery Wulczyn and Shashir Reddy and Roma Ruparel and Mike Schaekermann and Tim Strother and Ryutaro Tanno and Yash Sharma and Jihyeon Lee and Cían Hughes and Dylan Slack and Anil Palepu and Jan Freyberg and Khaled Saab and Valentin Liévin and Wei-Hung Weng and Tao Tu and Yun Liu and Nenad Tomasev and Kavita Kulkarni and S. Sara Mahdavi and Kelvin Guu and Joëlle Barral and Dale R. Webster and James Manyika and Avinatan Hassidim and Katherine Chou and Yossi Matias and Pushmeet Kohli and Adam Rodman and Vivek Natarajan and Alan Karthikesalingam and David Stutz},
journal= {arXiv preprint arXiv:2507.15743},
year = {2025}
}