Ask-n-Learn：基于可靠梯度表示的图像分类主动学习方法
机器学习
2020-10-01 v1 计算机视觉与模式识别
机器学习
摘要
深度预测模型依赖于以标注训练数据形式存在的人工监督。获取大量标注训练数据可能代价高昂且耗时，这在实际构建此类模型时成为关键瓶颈。在此类场景下，主动学习（AL）策略被用于以更少的标注工作量实现更快收敛。现有主动学习采用基于不确定性与多样性的多种启发式方法选择查询样本。尽管被广泛使用，其在实践中的性能受诸多因素限制，包括未校准的不确定性、数据探索与利用之间权衡不足、确认偏差的存在等。为应对这些挑战，我们提出 Ask-n-Learn，一种基于梯度嵌入的主动学习方法，该梯度嵌入由算法每次迭代中估计的伪标签获得。更重要的是，我们主张使用预测校准以获取可靠的梯度嵌入，并提出一种数据增强策略以减轻伪标签过程中的确认偏差影响。通过在基准图像分类任务（CIFAR-10、SVHN、Fashion-MNIST、MNIST）上的实证研宄，我们展示了相较最先进基线（包括近期提出的 BADGE 算法）的显著改进。
引用
@article{arxiv.2009.14448,
title = {Ask-n-Learn: Active Learning via Reliable Gradient Representations for Image Classification},
author = {Bindya Venkatesh and Jayaraman J. Thiagarajan},
journal= {arXiv preprint arXiv:2009.14448},
year = {2020}
}