Dropout作为贝叶斯近似：附录

我们证明了具有任意深度和非线性、且在每个权重层前应用dropout的神经网络，在数学上等价于一个著名贝叶斯模型的近似。该解释可能为了解dropout的一些关键性质(如其对抗过拟合的鲁棒性)提供理由。我们的解释使我们能够对深度学习中的不确定性进行推理，并允许以原则性方式将贝叶斯机制引入现有深度学习框架。本文档是Gal和Ghahramani于2015年发表的主论文“Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning”的附录。