XAI 中的不确定性传播：解析估计器与经验估计器的比较

理解可解释 AI（XAI）中的不确定性对于在机器学习模型中建立信任和确保可靠决策至关重要。本文通过定义一个通用的解释函数 $e_{\theta}(x, f)$ 引入了一个用于量化和解释 XAI 中不确定性的统一框架，该函数捕捉了来自关键来源的不确定性传播：输入数据的扰动和模型参数。通过使用解释方差 的解析和经验估计，我们提供了一种系统的方法来评估不确定性对解释的影响。我们以一阶不确定性传播作为解析估计器来说明该方法。在跨异构数据集的综合评估中，我们比较了不确定性传播的解析和经验估计，并评估了它们的鲁棒性。扩展了先前关于解释不一致性的工作，我们的实验识别了未能可靠捕捉和传播不确定性的 XAI 方法。我们的发现强调了在高风险应用中具备不确定性感知的解释的重要性，并为当前 XAI 方法的局限性提供了新见解。实验代码可在我们的仓库 https://github.com/TeodorChiaburu/UXAI 中找到。