先验网络与后验网络：用于不确定性估计的证据深度学习方法的综述
机器学习
2023-03-08 v3 人工智能
机器学习
摘要
在深度神经网络中量化预测不确定性的流行方法通常涉及权重的分布或多个模型，例如通过马尔可夫链采样、集成或蒙特卡洛 dropout。这些技术通常因需训练多个模型实例而产生开销，或无法产生非常多样的预测。本全面而广泛的综述旨在使读者熟悉一类基于证据深度学习（Evidential Deep Learning）概念的替代模型：对于不熟悉的数据，它们旨在承认“自己所不知道的”，并回退到先验信念。此外，它们通过参数化分布之上的分布，在单一模型和单次前向传播中实现不确定性估计。本综述重述现有工作，聚焦于分类设置中的实现，进而调研同一范式在回归中的应用。我们还反思了相较于其他现有方法的优缺点，并采用统一符号给出最基础的推导，以助未来研究。
引用
@article{arxiv.2110.03051,
title = {Prior and Posterior Networks: A Survey on Evidential Deep Learning Methods For Uncertainty Estimation},
author = {Dennis Ulmer and Christian Hardmeier and Jes Frellsen},
journal= {arXiv preprint arXiv:2110.03051},
year = {2023}
}