MC Dropout是贝叶斯的吗？
机器学习
2021-10-11 v1 机器学习
摘要
MC Dropout是医学影像中用于近似贝叶斯计算（ABC）的主流“免费午餐”方法。其吸引力在于开箱即用地解决神经网络（NNs）中艰巨的ABC与不确定性量化任务；属于变分推断（VI）框架；并提出高度多模态、忠实的预测后验。我们质疑MC Dropout用于近似推断的性质，因为事实上MC Dropout改变了贝叶斯模型；其预测后验在闭式基准上赋予真实模型 概率；其预测后验的多模态并非真实预测后验的性质，而是设计产物。为满足任意模型上VI的需求，我们分享了pytorch框架内的通用VI引擎。该代码包含精心设计的结结构化（对角加低秩）多元正态变分族及其混合的实现。它旨在作为一种首选的无免费午餐方法，以可调的介于表达力与计算复杂度之间的权衡解决均值场VI的缺陷。
引用
@article{arxiv.2110.04286,
title = {Is MC Dropout Bayesian?},
author = {Loic Le Folgoc and Vasileios Baltatzis and Sujal Desai and Anand Devaraj and Sam Ellis and Octavio E. Martinez Manzanera and Arjun Nair and Huaqi Qiu and Julia Schnabel and Ben Glocker},
journal= {arXiv preprint arXiv:2110.04286},
year = {2021}
}