基于多样化不确定梯度下界的深度批量主动学习
机器学习
2020-02-25 v2 机器学习
摘要
我们设计了一种用于深度神经网络模型批量主动学习的新算法。我们的算法 BADGE（基于多样化梯度嵌入的批量主动学习）在假想梯度空间中表示时，对差异大且幅值高的点组进行采样，该策略旨在将预测不确定性和样本多样性同时纳入每一个所选批次。关键在于，BADGE 在多样性和不确定性之间进行权衡，无需任何手工调整的超参数。我们表明，尽管其他方法在某些特定批大小或架构下有时表现良好，BADGE 始终表现相当或更好，使其成为实用主动学习问题中的一种通用选择。
引用
@article{arxiv.1906.03671,
title = {Deep Batch Active Learning by Diverse, Uncertain Gradient Lower Bounds},
author = {Jordan T. Ash and Chicheng Zhang and Akshay Krishnamurthy and John Langford and Alekh Agarwal},
journal= {arXiv preprint arXiv:1906.03671},
year = {2020}
}