基于自助深度集成的安全神经网络回归
机器学习
2023-08-04 v2 机器学习
摘要
随着神经网络流行度与使用的上升，可信的不确定性估计变得愈发关键。最突出的不确定性估计方法之一是深度集成（Deep Ensembles，Lakshminarayanan 等，2017）。经典参数模型因构建模型的数据为随机样本而存在参数不确定性。现代神经网络因网络优化的随机性而具有额外不确定性分量。Lakshminarayanan 等（2017）指出深度集成未纳入有限数据效应引起的经典不确定性。本文中，我们提出深度集成在回归设定下的计算廉价扩展——自助深度集成（Bootstrapped Deep Ensembles），其利用修正版参数自助法显式考虑有限数据的这一经典效应。我们通过实验研究证明该方法显著优于标准深度集成。
引用
@article{arxiv.2202.10903,
title = {Confident Neural Network Regression with Bootstrapped Deep Ensembles},
author = {Laurens Sluijterman and Eric Cator and Tom Heskes},
journal= {arXiv preprint arXiv:2202.10903},
year = {2023}
}
备注
20 pages, 11 figures