基于马蹄先验的贝叶斯神经网络结构化变分学习
机器学习
2018-08-01 v2 机器学习
摘要
贝叶斯神经网络（BNNs）近年来因其能够提供良好校准的后验不确定性而受到越来越多的关注。然而，模型选择——甚至选择节点数量——仍然是一个开放问题。近期工作提出在贝叶斯神经网络的节点预激活上使用马蹄先验，该先验能有效关闭无助于解释数据的节点。在本工作中，我们提出了若干建模与推断上的改进，在保持预测性能的同时持续提高所学模型的紧凑性，尤其是在包括强化学习在内的小样本场景中。
引用
@article{arxiv.1806.05975,
title = {Structured Variational Learning of Bayesian Neural Networks with Horseshoe Priors},
author = {Soumya Ghosh and Jiayu Yao and Finale Doshi-Velez},
journal= {arXiv preprint arXiv:1806.05975},
year = {2018}
}
备注
ICML 2018. v2 -- Minor edits and fixes typos. arXiv admin note: text overlap with arXiv:1705.10388