引入 δ-XAI：一种基于灵敏度的局部 AI 解释方法
机器学习
2024-07-30 v2 人工智能
摘要
可解释人工智能（XAI）是将人工智能（AI）和机器学习（ML）算法整合到临床实践中核心议题。高性能 AI/ML 模型（如集成学习者和深度神经网络）常缺乏可解释性，削弱了医生对其预测的信任。为此正在开发 XAI 技术，以人类可理解的方式描述 AI/ML 预测。一个有前景的方向是改造灵敏度分析（SA）和全局灵敏度分析（GSA），其本质上对模型输入按其对预测影响进行排序。本文引入一种新型 delta-XAI 方法，通过扩展 delta 指标（GSA 指标）提供 ML 模型预测的局部解释。delta-XAI 指标评估每个特征值对单个实例预测输出的影响，适用于回归和分类问题。我们对 delta-XAI 指标进行形式化建模，并提供其实现代码。对 delta-XAI 方法进行了评估，使用线性回归模型进行仿真场景测试，采用 Shapley 值作为基准。结果表明，delta-XAI 指标通常与 Shapley 值一致，但在高度影响或极端特征值模型中存在显著差异。delta-XAI 指标在检测主导特征和处理极端特征值方面表现出更高灵敏度。定性而言，delta-XAI 通过利用概率密度函数提供直观解释，使特征排序更清晰、更易于实践者理解。总体而言，delta-XAI 方法在稳健获取 ML 模型预测局部解释方面表现前景。将进一步在真实临床环境中进行进一步调查，以评估其对 AI 辅助临床工作流程的影响。
引用
@article{arxiv.2407.18343,
title = {Introducing {\delta}-XAI: a novel sensitivity-based method for local AI explanations},
author = {Alessandro De Carlo and Enea Parimbelli and Nicola Melillo and Giovanna Nicora},
journal= {arXiv preprint arXiv:2407.18343},
year = {2024}
}