面向人类的可解释 AI 框架开发：用于实时手术风险监测
人机交互
2025-04-04 v1
摘要
背景：人工智能（AI）临床决策支持（CDS）系统有潜力增强手术风险评估，但成功采用取决于对终端用户需求和当前工作流程的理解。本研究报告了MySurgeryRisk这一AI CDS工具的初始协作设计，该工具用于预测手术患者的九种术后并发症风险。方法：在美国东南部的一家综合性学术医院，与手术医生和麻醉师开展半结构化焦点小组和访谈，作为协作设计会话。参与者阅读了手术案例情境，询问其以了解其当前决策实践后，再向其介绍MySurgeryRisk原型网页界面。他们被要求对用户界面和系统功能提供反馈。会话记录经定性编码后进行主题分析。结果：在11次协作设计会话中，来自不同职业阶段的20位外科医生和麻醉师参与后，数据饱和。主题分析得出五个主题：（1）决策认知过程，（2）当前决策方法，（3）未来将MySurgeryRisk纳入决策的方法，（4）对当前MySurgeryRisk原型的反馈，（5）可信任性考量。结论：临床提供者认为MySurgeryRisk是一款有前景的CDS工具，能够实时处理大量数据，无需手动输入。参与者对界面设计和该工具在临床工作流程中的应用提供了反馈。然而，其成功实施取决于其可操作性、模型输出的可解释性、与当前电子系统的集成，以及终端用户间信任的校准。
引用
@article{arxiv.2504.02551,
title = {Human-Centered Development of an Explainable AI Framework for Real-Time Surgical Risk Surveillance},
author = {Andrea E Davidson and Jessica M Ray and Yulia Levites Strekalova and Parisa Rashidi and Azra Bihorac},
journal= {arXiv preprint arXiv:2504.02551},
year = {2025}
}
备注
23 pages, 3 tables, 2 supplementary materials