单次 MC Dropout 近似
机器学习
2020-07-08 v1 机器学习
摘要
深度神经网络（DNNs）以其高预测性能著称，尤其在物体识别或自动驾驶等感知任务中。然而，DNNs在遇到全新情形时易产生不可靠预测且不指示其不确定性。DNNs的贝叶斯变体（BDNNs），如MC dropout BDNNs，确实提供不确定性度量。但BDNNs在测试时较慢，因其依赖采样方法。本文提出一种单次MC dropout近似，在保持BDNNs优势的同时不比DNN慢。我们的方法是在全连接网络中对每一层解析近似MC dropout信号的期望值与方差。我们在不同基准数据集与一模拟玩具示例上评估了该方法。我们证明，我们的单次MC dropout近似重现了MC方法所得预测分布的点估计与不确定性估计，同时足够快以支持BDNNs的实时部署。
引用
@article{arxiv.2007.03293,
title = {Single Shot MC Dropout Approximation},
author = {Kai Brach and Beate Sick and Oliver Dürr},
journal= {arXiv preprint arXiv:2007.03293},
year = {2020}
}
备注
Presented at the ICML 2020 Workshop on Uncertainty and Robustness in Deep Learning