校准解释：带不确定性信息与反事实的解释方法
人工智能
2024-01-09 v3 机器学习
摘要
尽管针对AI模型的局部解释能够提供对个体预测的洞察（如特征重要性），但它们深受不稳定性等问题的困扰。特征权重的不可靠性（常因校准不良的ML模型而偏斜）加深了这些挑战。此外，在可解释AI（XAI）中，特征重要性不确定性的关键方面大多未被解决。本文提出的名为校准解释（CE）的新颖特征重要性解释方法，旨在正面应对这些问题。CE构建于Venn-Abers的基础之上，不仅校准底层模型，还提供带有特征权重精确定义的可靠特征重要性解释。CE通过为特征权重和模型的概率估计提供不确定性量化，超越常规方案地解决了输出不确定性。此外，CE是模型无关的，具有易于理解的条件规则以及生成带嵌入不确定性量化的反事实解释的能力。基于25个基准数据集的评估结果表明了CE的有效性，使其成为一种快速、可靠、稳定且鲁棒的解决方案。
引用
@article{arxiv.2305.02305,
title = {Calibrated Explanations: with Uncertainty Information and Counterfactuals},
author = {Helena Lofstrom and Tuwe Lofstrom and Ulf Johansson and Cecilia Sonstrod},
journal= {arXiv preprint arXiv:2305.02305},
year = {2024}
}
备注
19 pages, 6 figures, 3 tables, submitted to journal