UbiQTree：基于树集成实现 XAI 中的不确定性量化
人工智能
2026-02-25 v2
摘要
可解释人工智能 (XAI) 技术，如 Shapley 增益解释 (SHAP)，已成为解释复杂集成树基模型的重要工具，尤其是在高风险领域如医疗保健分析中。然而，SHAP 值通常被视为点估计，这忽略了预测模型和数据中固有的普遍性不确定性。这种不确定性有两个主要来源：Aleatoric 不确定性反映数据中不可约的噪声；Epistemic 不确定性源于数据不足。本文提出了一种将 SHAP 值不确定性分解为 Aleatoric、Epistemic 和 Entanglement 组成部分的方法。该方法集成了 Dempster-Shafer 证据理论和通过 Dirichlet 过程对树集成进行的假设抽样。我们在三个真实世界应用案例中对该方法进行了验证，通过描述性统计分析提供了对嵌入在 SHAP 解释中 Epistemic 不确定性本质的见解。实验结果表明，具有最高 SHAP 值的所有特征并不一定是最稳定的。通过更好、更具代表性的数据和遵循适当或特定于案例的模型开发技术，可以减少这种 Epistemic 不确定性。树基模型，特别是装袋法，有助于有效量化 Epistemic 不确定性。
引用
@article{arxiv.2508.09639,
title = {UbiQTree: Uncertainty Quantification in XAI with Tree Ensembles},
author = {Akshat Dubey and Aleksandar Anžel and Bahar İlgen and Georges Hattab},
journal= {arXiv preprint arXiv:2508.09639},
year = {2026}
}