可解释医学影像AI需要以人为中心的设计：来自系统综述的指南与证据
人机交互
2022-10-03 v4 计算机视觉与模式识别
机器学习
图像与视频处理
摘要
机器学习（ML）的透明性试图揭示复杂模型的工作机制。透明ML有望推进目标用户中以人为中心AI的人因工程目标。从以人为中心的设计视角看，透明性不是ML模型的属性，而是一种可供性，即算法与用户之间的关系；因此，与用户进行迭代原型设计和评估对于获得充分支持透明性的解决方案至关重要。然而，由于在医疗和医学图像分析中终端用户可用性和可及性有限，遵循以人为中心的设计原则具有挑战性。为调查医学图像分析中透明ML的现状，我们进行了文献系统综述。我们的综述揭示了医学图像分析应用中透明ML的设计与验证存在的多个严重缺陷。我们发现，迄今为止大多数研究将透明性视为模型本身的属性，类似于任务性能，在开发和评估阶段均未考虑终端用户。此外，缺乏用户研究以及透明性主张的零星验证，使当代医学图像分析透明ML研究面临令用户难以理解从而临床无关的风险。为缓解后续研究中的这些缺陷，同时承认医疗中以人为中心设计的挑战，我们引入了INTRPRT指南，一个针对医学图像分析透明ML系统的系统设计指令。INTRPRT指南建议将形成性用户研究作为透明模型设计的第一步，以理解用户需求和领域要求。遵循此过程产生支持设计选择的证据，并最终增加算法提供透明性的可能性。
引用
@article{arxiv.2112.12596,
title = {Explainable Medical Imaging AI Needs Human-Centered Design: Guidelines and Evidence from a Systematic Review},
author = {Haomin Chen and Catalina Gomez and Chien-Ming Huang and Mathias Unberath},
journal= {arXiv preprint arXiv:2112.12596},
year = {2022}
}