揭示不确定性来源：特征对保守预测区间的贡献
人工智能
2025-05-20 v1 机器学习
机器学习
摘要
合作博弈论方法，尤其是Shapley值，显著提升了机器学习（ML）可解释性。然而，现有的可解释AI（XAI）框架主要归因于平均模型预测，忽略了预测不确定性。本文针对这一空白，提出一种基于保守预测（conformal prediction, CP）的新型、模型无关的不确定性归因（uncertainty attribution, UA）方法。通过定义其中保守预测区间属性（如宽度和边界）作为价值函数的合作游戏，我们系统性地将预测不确定性归因于输入特征。超越传统Shapley值，我们使用更丰富的Harsanyi分配，其中尤其是按比例Shapley值（proportional Shapley values），按特征重要性比例分配归因。我们提出一种具有稳健统计保证的蒙特卡罗近似方法，以解决计算可行性问题，显著提高运行效率。我们的全面实验在合成基准和真实数据集上均表明该方法在实际应用中具有实用性和解释深度。通过将合作博弈论与保守预测结合，我们提供了一个严谨且灵活的工具包，用于理解和沟通高风险ML应用中的预测不确定性。
引用
@article{arxiv.2505.13118,
title = {Unveil Sources of Uncertainty: Feature Contribution to Conformal Prediction Intervals},
author = {Marouane Il Idrissi and Agathe Fernandes Machado and Ewen Gallic and Arthur Charpentier},
journal= {arXiv preprint arXiv:2505.13118},
year = {2025}
}