基于距离感知先验的贝叶斯神经网络不确定性校准
机器学习
2022-07-19 v1 人工智能
机器学习
摘要
当我们远离数据时，预测不确定性应当增加，因为少量可用信息可与大量不同的解释相一致。我们提出距离感知先验（DAP）校准，一种用于修正贝叶斯深度学习模型在训练域外过度自信的方法。我们将 DAP 定义为模型参数上的先验分布，其通过输入与训练集距离的度量依赖于输入。DAP 校准与后验推断方法无关，并且可以作为后处理步骤执行。我们在多种分类与回归问题中，包括旨在测试远离数据时预测分布质量的基准上，展示了其相对于若干基线的有效性。
引用
@article{arxiv.2207.08200,
title = {Uncertainty Calibration in Bayesian Neural Networks via Distance-Aware Priors},
author = {Gianluca Detommaso and Alberto Gasparin and Andrew Wilson and Cedric Archambeau},
journal= {arXiv preprint arXiv:2207.08200},
year = {2022}
}