深度集成贝叶斯主动学习：通过集成解决蒙特卡洛 dropout 中的模式坍缩问题
机器学习
2018-11-12 v1 机器学习
摘要
在图像分类任务中，深度 CNN 处理复杂图像数据的能力已被证明无可匹敌。然而，它们需要大量标注训练数据才能发挥全部潜力。在医疗等专门领域，标注数据难以获取且成本高昂。主动学习旨在缓解此问题，在提供满意性能的同时减少特定任务所需的标注数据量。我们提出 DEBAL，一种为深度神经网络设计的新型主动学习策略。该方法改进了当前最先进的深度贝叶斯主动学习方法，后者受模式坍缩问题困扰。我们通过利用模型集成的表达力与统计特性来纠正这一缺陷。我们提出的方法能够捕获更优的数据不确定性，进而转化为改进的分类性能。我们通过实验证明，我们的集成方法在 MNIST 和 CIFAR-10 数据集上训练 CNN 时实现了更快的收敛。
引用
@article{arxiv.1811.03897,
title = {Deep Ensemble Bayesian Active Learning : Addressing the Mode Collapse issue in Monte Carlo dropout via Ensembles},
author = {Remus Pop and Patric Fulop},
journal= {arXiv preprint arXiv:1811.03897},
year = {2018}
}
备注
ICLR under review