医疗人工智能的解释必要性
人工智能
2025-05-15 v2
摘要
可解释性是增强医疗领域人工智能可信度与接受度的关键因素，因为该领域的决策直接影响患者预后。尽管人工智能可解释性取得了进展，但在医疗应用中何时以及需要何种程度的解释仍缺乏明确指南。我们提出了一种新颖的分类系统，包含四类解释必要性（自解释、半解释、不可解释和新模式发现），用于指导所需的解释层级：是局部（患者或样本层面）、全局（队列或数据集层面），还是两者兼具。为支撑该系统，我们引入了一个数学公式，包含三个关键因素：(i) 评估协议的鲁棒性，(ii) 专家观察的变异性，以及(iii) 应用的表示维度。该框架为研究人员提供了一个实用工具，用于确定所需可解释性的适当深度，从而解决关键问题：何时需要解释AI医疗应用，以及需要何种详细程度的解释？
引用
@article{arxiv.2406.00216,
title = {The Explanation Necessity for Healthcare AI},
author = {Michail Mamalakis and Héloïse de Vareilles and Graham Murray and Pietro Lio and John Suckling},
journal= {arXiv preprint arXiv:2406.00216},
year = {2025}
}
备注
accepted paper in IEEE CITREx 2025 : IEEE Symposium on Explainable, Responsible, and Trustworthy Computational Intelligence