关于不确定性——面向不确定性感知可解释人工智能的系统性综述

本文系统性调查了不确定性感知可解释人工智能（UAXAI），考察不确定性如何被纳入解释管道以及此类方法的评估方式。在文献中，三个关于不确定性定量化的常规方法浮现：贝叶斯方法、蒙特卡洛方法和保守方法，此外还有不同策略将不确定性集成到解释中：评估可信度、约束模型或解释、以及显式传递不确定性。评估实践仍较碎片化，主要以模型为中心，仅少数关注用户且对可靠性属性（如校准、覆盖率、解释稳定性）报告不一致。近期工作倾向于校准，分布自由技术，并将解释器变异性识别为核心关切。我们认为，UAXAI 的进展需要统一的评估原则，将不确定性传播、鲁棒性与人类决策联系起来，并指出反事实方法和校准方法是将可解释性与可靠性对齐的有前景的途径。