单一指标无法完整阐述故事：不确定性归因的多维评估框架
机器学习
2026-03-26 v1 人工智能
摘要
可解释人工智能（XAI）的研究通常聚焦于解释模型预测。近期有研究提出了通过对输入特征进行归因来解释预测不确定性的方法（不确定性归因）。然而，这些方法的评估存在一致性不足，因为不同研究依赖异构的代理任务和指标，导致可比性差。本文通过将不确定性归因与已建立的 XAI 评估框架 Co-12 对齐，来解决这一问题。我们提出了对正确性、一致性、连续性和紧凑性四个性质的具体实现。此外，我们引入了 conveyance，这一性质是针对不确定性归因而设计的，用于评估控制性 epistemic 不确定性增加是否可靠地传递到特征层面的归因。我们在表格数据和图像数据上，使用八种指标对不同不确定性量化方法和特征归因方法的组合进行实验。实验结果表明，梯度基于的方法在一致性和 conveyance 方面 consistently 优于扰动基于的方法，而蒙特卡罗 dropconnect 在大多数指标上优于蒙特卡罗 dropout。尽管大多数指标在不同样本上对方法进行一致排名，但各方法之间的一致性仍然较低。这表明没有单个指标足以评估不确定性归因的质量。该提出的评估框架通过建立系统性比较和开发不确定性归因方法的基础，为该领域的知识积累作出了贡献。
引用
@article{arxiv.2603.24524,
title = {No Single Metric Tells the Whole Story: A Multi-Dimensional Evaluation Framework for Uncertainty Attributions},
author = {Emily Schiller and Teodor Chiaburu and Marco Zullich and Luca Longo},
journal= {arXiv preprint arXiv:2603.24524},
year = {2026}
}
备注
Accepted at the Fourth World Conference on Explainable Artificial Intelligence, xAI 2026, Fortaleza, Brazil, July 1-3, 2026