使用 Delta 方差进行通用不确定性估计
机器学习
2026-05-01 v2 人工智能
应用统计
机器学习
摘要
决策者可能因数据有限导致不确定性。通过考虑表征不确定性可缓解此问题，但对大型神经网络的表征估计效率低下。为此，我们研究 Delta 方差，这是一族用于表征不确定性量化的算法，具备计算效率高且易于实现。其可应用于神经网络及由神经网络组成的更一般函数。以包含神经网络步骤函数的天气模拟器为例，Delta 方差在仅进行一次梯度计算的情况下即可获得竞争性结果。该方法便捷，因为无需修改神经网络架构或训练程序。我们讨论了多种从理论角度推导 Delta 方差的方法，指出其特殊情况可恢复流行技术，并对多种相关方法提供统一视角。最后我们观察到，这种通用视角自然导致一种扩展，并经实验证明其效用。
引用
@article{arxiv.2502.14698,
title = {General Uncertainty Estimation with Delta Variances},
author = {Simon Schmitt and John Shawe-Taylor and Hado van Hasselt},
journal= {arXiv preprint arXiv:2502.14698},
year = {2026}
}