面向超参数神经网络的认识不确定性
机器学习
2026-05-26 v1 人工智能
统计计算
机器学习
摘要
认识不确定性通常被视为随数据增加而消失的可还原不确定性。这种视角隐含了参数可识别性，并将认识不确定性等同于预测变动性。在超参数神经网络中，模型参数通常由于对称性和冗余表示而不可识别。因此，即使底层函数完全被识别，仍可保留大量参数不确定性。本文通过非可识别性的视角分析认识不确定性，并对离散和连续来源的残余不确定性进行表征。我们聚焦于单隐藏层 ReLU 网络，深入分析所得后验结构，并通过实证研究验证我们的理论见解。
引用
@article{arxiv.2605.25234,
title = {On the Epistemic Uncertainty of Overparametrized Neural Networks},
author = {David Rügamer},
journal= {arXiv preprint arXiv:2605.25234},
year = {2026}
}
备注
Accepted at ICML 2026 (Main Track)