探索临床医生对重症监护中可解释 AI 决策支持系统的需求
人机交互
2024-11-19 v1 人工智能
摘要
随着人工智能（AI）模型日益复杂且人类愈发难以理解，理解数字系统如何支持临床决策的需求日益增长。这种复杂性引发了对可信度的担忧，影响了此类技术的安全与有效采用。更好地理解决策过程及对决策支持工具解释的需求，是提供有效可解释方案的关键组成部分。这在数据密集、快节奏的重症监护室（ICU）环境中尤为重要。为探讨这些问题，我们对代表不同角色和经验水平的七名 ICU 临床医生进行了小组访谈。主题分析揭示了三个核心主题：（T1）ICU 决策依赖多种因素，（T2）患者状态的复杂性给共同决策带来挑战，以及（T3）AI 决策支持系统的需求与能力。我们纳入了来自临床输入的设计建议，为未来重症监护 AI 系统的构建提供见解。
引用
@article{arxiv.2411.11774,
title = {Exploring the Requirements of Clinicians for Explainable AI Decision Support Systems in Intensive Care},
author = {Jeffrey N. Clark and Matthew Wragg and Emily Nielsen and Miquel Perello-Nieto and Nawid Keshtmand and Michael Ambler and Shiv Sharma and Christopher P. Bourdeaux and Amberly Brigden and Raul Santos-Rodriguez},
journal= {arXiv preprint arXiv:2411.11774},
year = {2024}
}