用于图像分类中快速不确定性估计的深度子集成
机器学习
2019-12-02 v2 计算机视觉与模式识别
机器学习
摘要
许多鲁棒机器人应用需要模型不确定性的快速估计。Deep Ensembles 提供最先进的不确定性而无需贝叶斯方法，但计算开销仍大。本文提出深度子集成（deep sub-ensembles），作为深度集成的一种近似，其核心思想仅集成靠近输出的层，而非整个模型。在 CIFAR10 数据集上使用 ResNet-20，我们获得相对于 Deep Ensemble 1.5-2.5 倍的加速，误差与 NLL 略有增加；在 SVHN 数据集上使用类 VGG 网络类似地获得高达 5-15 倍加速。我们的结果表明，该思路实现了误差与不确定性质量同计算性能之间的权衡。
引用
@article{arxiv.1910.08168,
title = {Deep Sub-Ensembles for Fast Uncertainty Estimation in Image Classification},
author = {Matias Valdenegro-Toro},
journal= {arXiv preprint arXiv:1910.08168},
year = {2019}
}
备注
7 pages, 8 figures, Bayesian Deep Learning Workshop 2019 @ NeurIPS 2019, camera ready