面向可信医疗人工智能的上下文相关可解释性与可争议性：早产儿患病率识别模型的误分类辨识
人工智能
2022-12-20 v1 机器学习
摘要
尽管人工智能的机器学习（ML）模型在医学中取得了高性能，但它们并非没有错误。赋予临床医生识别不正确模型推荐的能力，对于在医疗AI中建立信任至关重要。可解释人工智能（XAI）旨在通过澄清AI推理过程以支持最终用户来满足这一需求。近期若干关于生物医学影像的研究取得了有前景的结果。然而，针对使用表格数据的模型之解决方案尚不足以满足临床医生的要求。本文提出一种方法论，以支持临床医生识别基于表格数据训练的ML模型的失败。我们的方法论建立在三大支柱上：利用临床上下文潜空间分解特征集、评估全局解释的临床关联性，以及基于潜空间相似性（LSS）的局部解释。我们在基于ML的早产儿感染所致患病率识别上展示了该方法论。该领域中因模型失败导致的死亡风险、终身残疾与抗生素耐药性是开放的研究问题。我们的方法成功识别了两种模型的误分类案例。通过上下文化局部解释，我们的解决方案为临床医生提供了可操作的洞察，以支持其自主做出知情的最终决策。
引用
@article{arxiv.2212.08821,
title = {Context-dependent Explainability and Contestability for Trustworthy Medical Artificial Intelligence: Misclassification Identification of Morbidity Recognition Models in Preterm Infants},
author = {Isil Guzey and Ozlem Ucar and Nukhet Aladag Ciftdemir and Betul Acunas},
journal= {arXiv preprint arXiv:2212.08821},
year = {2022}
}
备注
27 pages, 5 figures