用于主动学习的深度不确定性网络
机器学习
2022-05-05 v2 机器学习
摘要
在主动学习中，训练数据集的规模与复杂度随时间变化。在主动学习开始时由可用数据量良好确定的简单模型，随着更多点被主动采样可能会遭受偏差。可能适合完整数据集的灵活模型在主动学习初期则可能过拟合。我们使用深度不确定性网络（DUNs，一种推断网络深度从而推断其复杂度的 BNN 变体）来解决该问题。我们发现 DUNs 在多个主动学习任务上优于其他 BNN 变体。重要的是，我们表明在 DUNs 表现最佳的任务中，它们相比基线呈现出明显更少的过拟合。
引用
@article{arxiv.2112.06796,
title = {Depth Uncertainty Networks for Active Learning},
author = {Chelsea Murray and James U. Allingham and Javier Antorán and José Miguel Hernández-Lobato},
journal= {arXiv preprint arXiv:2112.06796},
year = {2022}
}