Augmenting Clinical Decision-Making with an Interactive and Interpretable AI Copilot: A Real-World User Study with Clinicians in Nephrology and Obstetrics

对不透明 AI 的临床医生持怀疑态度阻碍了高风险医疗保健领域的采纳。我们提出 AICare，这是一个用于协作临床决策的交互式和可解释 AI 同伴。通过分析纵向电子健康记录，AICare 将动态风险预测 grounding 在可检验的可视化和 LLM 生成的诊断建议中。通过针对肾脏和妇产科临床医师的 within-subjects 对照研究，我们全面评估了 AICare，包括客观措施（任务完成时间和错误率）、主观评估（NASA-TLX、SUS 和置信度评分）以及半结构化访谈。我们的发现表明 AICare 能显著降低认知工作负荷。除了性能指标之外，定性分析揭示了信任是通过验证主动构建的，交互策略因专业背景而异：初级临床医师将系统用作结构化分析的认知支架，而专家则参与对抗性验证，以挑战 AI 的逻辑。本工作为创建作为透明伙伴的 AI 系统提供了设计启示，能够容纳多样化的推理风格，以增强而非取代临床判断。