t分布输出的概率神经网络：超越高斯假设的自适应预测区间
机器学习
2026-03-02 v2 机器学习
摘要
传统神经网络回归模型仅提供点估计，无法捕捉预测不确定性。概率神经网络（PNNs）通过生成输出分布来解决这一限制，从而可构建预测区间。然而，常见的高斯输出分布假设常导致区间过宽，尤其在存在离群值或偏离正态性时。为增强PNNs的适应性，我们提出t分布神经网络（TDistNNs），生成t分布输出，由位置、尺度和自由度参数化。自由度参数使TDistNNs能够建模重尾预测分布，提高了对非高斯数据和自适应不确定性量化的鲁棒性。我们将t分布似然函数集成到神经网络训练中，并推导高效的梯度计算，以实现无缝集成到深度学习框架。在合成数据和真实数据上的经验评估表明，TDistNNs在覆盖率和区间宽度之间取得更好的平衡。值得注意的是，在相同的架构下，TDistNNs始终比基于高斯的PNNs生成更窄的预测区间，同时保持恰当的覆盖率。这一工作为神经网络的不确定性估计提供了一个灵活框架，特别适用于涉及复杂输出分布的场景。
引用
@article{arxiv.2503.12354,
title = {Probabilistic Neural Networks (PNNs) with t-Distributed Outputs: Adaptive Prediction Intervals Beyond Gaussian Assumptions},
author = {Farhad Pourkamali-Anaraki},
journal= {arXiv preprint arXiv:2503.12354},
year = {2026}
}
备注
9 Figures, 1 Table