面向成本敏感的可解释人工智能中的不确定性门控
人工智能
2026-04-01 v1 机器学习
摘要
后续解释方法广泛用于解释黑箱预测，但其生成往往计算昂贵且其可靠性无法得到保证。我们提出以认知不确定性作为解释可靠性的低成本代理：高认知不确定性标识决策边界 poorly 定义的区域，在这些区域内，解释会变得不稳定且不可信赖。这一洞察使我们能够实现两种互补用例：`改善最坕情况解释'（根据预期解释可靠性将样本路由到低成本或高成本的 XAI 方法），以及`召回高质量解释'（在受限预算下对不可信赖的样本延迟生成解释）。在四个表格数据集、五种多样化架构和四种 XAI 方法上，我们观察到认知不确定性与解释稳定性之间存在强烈的负相关。进一步分析表明，认知不确定性不仅能区分稳定与不稳定的解释，还能区分可信赖与不可信赖的解释。在图像分类实验中确认，我们的发现可推广到非表格数据之外。
引用
@article{arxiv.2603.29915,
title = {Uncertainty Gating for Cost-Aware Explainable Artificial Intelligence},
author = {Georgii Mikriukov and Grégoire Montavon and Marina M. -C. Höhne},
journal= {arXiv preprint arXiv:2603.29915},
year = {2026}
}