VBridge：连接特征与数据以解释医疗健康模型
人机交互
2021-10-05 v2 人工智能
机器学习
摘要
机器学习（ML）正越来越多地应用于电子健康记录（EHRs）以解决临床预测任务。尽管许多 ML 模型表现良好，但模型透明性与可解释性问题限制了它们在临床实践中的采用。在临床环境中直接使用现有的可解释 ML 技术可能具有挑战性。通过文献调研以及与六名平均拥有 17 年临床经验的临床医生的合作，我们确定了三个关键挑战，包括临床医生对 ML 特征不熟悉、缺乏上下文信息，以及需要队列层面的证据。遵循迭代设计过程，我们进一步设计并开发了 VBridge，这是一个将 ML 解释无缝整合到临床医生决策工作流中的可视化分析工具。该系统包含一种基于贡献的特征解释的新型层次化展示，以及将 ML 特征、解释与数据之间联系起来的丰富交互。我们通过两个案例研究以及与四名临床医生的专家访谈展示了 VBridge 的有效性，表明将模型解释与患者情境记录进行可视化关联，可以帮助临床医生在做出临床决策时更好地解释和使用模型预测。我们进一步推导出了用于开发未来可解释 ML 工具以支持临床决策的一系列设计启示。
引用
@article{arxiv.2108.02550,
title = {VBridge: Connecting the Dots Between Features and Data to Explain Healthcare Models},
author = {Furui Cheng and Dongyu Liu and Fan Du and Yanna Lin and Alexandra Zytek and Haomin Li and Huamin Qu and Kalyan Veeramachaneni},
journal= {arXiv preprint arXiv:2108.02550},
year = {2021}
}
备注
Accepted to IEEE VIS 2021, To Appeal in IEEE Transactions on Visualization and Computer Graphics