后验分裂点自我一致性验证：高效统一量化深度学习中的阿利亚蒂与认识不确定性
机器学习
2025-09-18 v2
摘要
不确定性量化（UQ）对于可信赖的深度学习至关重要，但现有方法要么计算昂贵，如贝叶斯或集成方法，要么仅提供部分、任务特定的估计，如单前向传递技术。本文提出一种后验单前向传递框架，能够在不修改或重新训练预训练模型的情况下联合捕获阿利亚蒂不确定性和认识不确定性。我们应用“分裂点分析”（SPA）将预测残差分解为上下两个子集，在每个子集上计算“平均绝对残差”（MAR）。我们证明，在理想条件下，总 MAR 等于子集 MAR 的调和平均；偏差定义为新的“自我一致性差异得分”（SDS），用于在回归和分类任务中进行细粒度的认识估计。对于回归，基于 SPA 的分位数回归可得改进的经验覆盖率预测区间，并通过 SDS 进行校准。对于分类，在提供校准数据的情形下，我们应用基于 SPA 的校准恒等式调整 softmax 输出，然后对这些校准概率计算预测熵。广泛的回归和分类基准实验表明，我们的框架在最小开销下与几种最先进的 UQ 方法相匹配或超越。我们的源代码已公开于 https://github.com/zzz0527/SPC-UQ。
引用
@article{arxiv.2509.13262,
title = {Post-Hoc Split-Point Self-Consistency Verification for Efficient, Unified Quantification of Aleatoric and Epistemic Uncertainty in Deep Learning},
author = {Zhizhong Zhao and Ke Chen},
journal= {arXiv preprint arXiv:2509.13262},
year = {2025}
}
备注
33 pages, 15 figures and 16 tables. Manuscript submitted to a journal for publication