面向临床风险预测的的可解释 AI:概念、方法与模态综述
机器学习
2023-08-17 v1 人工智能
计算机与社会
摘要
近期 AI 在医疗健康中的应用进展在超越人类诊断与疾病预后表现方面展现出惊人潜力。然而,随着 AI 模型日益复杂,对其不透明性、潜在偏见以及可解释性需求的担忧也随之增加。为确保 AI 系统尤其是临床风险预测模型的可信与可靠,可解释性变得至关重要。可解释性通常指 AI 系统向人类利益相关者提供对其决策逻辑或决策本身的稳健解释的能力。在临床风险预测中,公平性、偏见、信任与透明度等其他可解释性方面也代表了超越单纯可解释性的重要概念。本综述探讨了这些概念之间的关系,因为它们常被共同或互换使用。本综述还讨论了用于临床风险预测的可解释模型开发的最新进展,强调了定量与临床评估以及临床实践中多种常见模态验证的重要性。它强调需要外部验证并组合多种可解释性方法以增强信任与公平。采用严格测试(如使用具有已知生成因子的合成数据集)可进一步提升可解释性方法的可靠性。开放获取与代码共享资源对透明度与可重复性至关重要,可推动可解释研究的发展与可信度。尽管存在挑战,但面向临床风险预测的可解释性端到端方法,纳入从临床医生到开发者的利益相关者,是取得成功的关键。
引用
@article{arxiv.2308.08407,
title = {Explainable AI for clinical risk prediction: a survey of concepts, methods, and modalities},
author = {Munib Mesinovic and Peter Watkinson and Tingting Zhu},
journal= {arXiv preprint arXiv:2308.08407},
year = {2023}
}