用于已训练神经网络低成本不确定性的预测刚性形式化
机器学习
2024-03-05 v1 机器学习
摘要
回归方法是科学和技术应用的基础。然而，拟合模型在其训练域之外可能高度不可靠，因此在其许多应用中量化其不确定性至关重要。基于约束优化问题的解，我们提出“预测刚性”作为一种获取任意预训练回归器不确定性的方法。我们建立了我们的框架与贝叶斯推断之间的强联系，并开发了一种允许将新方法应用于神经网络的最后一层近似。这一扩展提供了低成本的不确定性，且无需对神经网络本身或其训练过程进行任何修改。我们在广泛的回归任务中展示了该方法的有效性，从简单的玩具模型到化学和气象学中的应用。
引用
@article{arxiv.2403.02251,
title = {A prediction rigidity formalism for low-cost uncertainties in trained neural networks},
author = {Filippo Bigi and Sanggyu Chong and Michele Ceriotti and Federico Grasselli},
journal= {arXiv preprint arXiv:2403.02251},
year = {2024}
}