利用临床语境实现以用户为中心的可解释性：以糖尿病为例

在医疗等高精度领域中，AI模型的学术进展需要变得可解释，以促进其在现实世界中的采用。我们过去的研究和持续的互动表明，如果有方法将模型对患者的推断与回溯到使用语境的解释联系起来，医学专家就能以更高的信任度使用AI系统。具体而言，风险预测对临床医生而言是一个具有诊断和干预重要性的复杂问题，他们需要参考不同来源来做出决策。为使不断改进的AI风险预测模型能在实践中被采用，我们已开始探索沿三个关注维度对这些模型进行语境化的技术：患者的临床状态、AI对其并发症风险的预测，以及支持预测结果的算法解释。我们通过在一个2型糖尿病（T2DM）用例中实施概念验证（POC）来验证这些维度的重要性，其中我们评估慢性肾病（CKD）——一种常见的T2DM合并症——的风险。在该POC中，我们纳入了CKD的风险预测模型、对预测结果的事后解释器，以及其他将领域知识和临床实践指南（CPG）操作化以提供语境的自然语言模块。我们以初级保健医生（PCP）为最终用户，在本文中展示我们的初步结果和临床医生反馈。我们的POC方法覆盖了多种知识来源和临床场景，融合知识向PCP解释数据和预测，并获得了医学专家的热烈反响。