用于解耦偶然不确定性与认知不确定性的协同方差估计与贝叶斯神经网络
机器学习
2026-05-29 v2 机器学习
摘要
真实世界数据包含偶然不确定性——由不完美测量或数据生成过程的不完全知识产生的不可约噪声。均值-方差估计网络可以学习这种类型的不确定性,但需要特定的正则化策略来避免过拟合,并且无法预测认知不确定性(模型不确定性)。相反,贝叶斯神经网络可以预测认知不确定性,但由于贝叶斯推断的近似性质,其训练非常困难。我们提出协同训练一个方差估计网络与一个贝叶斯神经网络,并通过实验证明,所得模型在改进均值估计的同时,解耦了偶然不确定性和认知不确定性。我们在多种数据集上展示了该方法的有效性和可扩展性,包括我们创建的一个偶然不确定性已知的时间依赖异方差回归数据集。所提出的方法易于实现、鲁棒性强,并能适应各种模型架构。
引用
@article{arxiv.2505.02743,
title = {Cooperative Variance Estimation and Bayesian Neural Networks for Disentangling Aleatoric and Epistemic Uncertainties},
author = {Jiaxiang Yi and Miguel A. Bessa},
journal= {arXiv preprint arXiv:2505.02743},
year = {2026}
}
备注
38 pages, 26 figures