通过情境化2型糖尿病风险预测模型的事后解释以辅助临床评估
机器学习
2023-02-14 v1 人工智能
摘要
如果人工智能(AI)系统配有情境化解释,使从业者能将系统推断与其使用情境相联系,医学专家可能会以更高的信任度使用这些系统。然而,其在改进模型使用与理解方面的重要性尚未得到广泛研究。为此,我们考虑一种共病风险预测场景,并聚焦于有关患者临床状态、AI对其并发症风险的预测以及支持预测结果的算法解释等情境。我们探索如何从医学指南中提取这些维度的相关信息,以回答临床从业者的典型问题。我们将此识别为一个问答(QA)任务,并采用多个最先进的LLM来呈现风险预测模型推断周围的情境,并评估其可接受性。最后,我们通过构建一个端到端的AI流水线来研究情境化解释的优势,该流水线包括数据队列划分、AI风险建模、事后模型解释,并原型化了一个可视化仪表盘,以呈现来自不同情境维度和数据源的融合洞察,同时预测并识别慢性肾脏病(一种常见的2型糖尿病共病)的风险驱动因素。所有这些步骤均在医学专家的参与下完成,包括由专家医学小组对仪表盘结果进行最终评估。我们表明,LLM,特别是BERT和SciBERT,可被直接部署以提取部分相关解释来支持临床使用。为理解情境化解释的价值增益,专家小组就相关临床环境中的可操作洞察对其进行了评估。总体而言,我们的论文是首批在真实世界临床用例中识别情境化解释的可行性与优势的端到端分析之一。
引用
@article{arxiv.2302.05752,
title = {Informing clinical assessment by contextualizing post-hoc explanations of risk prediction models in type-2 diabetes},
author = {Shruthi Chari and Prasant Acharya and Daniel M. Gruen and Olivia Zhang and Elif K. Eyigoz and Mohamed Ghalwash and Oshani Seneviratne and Fernando Suarez Saiz and Pablo Meyer and Prithwish Chakraborty and Deborah L. McGuinness},
journal= {arXiv preprint arXiv:2302.05752},
year = {2023}
}