面向主动学习的偏差感知堆化策略
计算机视觉与模式识别
2019-11-19 v1 信息检索
机器学习
摘要
基于学习的算法的数据效率越来越重要，因为高质量且干净的数据既昂贵又难以收集。为了在最少样本数量下实现高模型性能，主动学习是一种从原始数据集中查询最重要数据子集的技术。在主动学习领域，主流研究之一是基于启发式不确定性的方法，这对基于学习的系统很有用。最近，少数工作提出应用策略强化学习（PRL）来查询重要数据。由于 PRL 方法依赖于数据特征（比人类先验更可靠），它似乎比基于启发式不确定性的方法更通用。然而，在主动学习上应用 PRL 时存在两个问题——策略学习的样本低效和过度置信。更确切地说，当在大的动作空间中采样时会出现策略学习的样本低效，同时类别不平衡会导致过度置信。在本文中，我们提出了一种称为堆化主动学习（HAL）的偏差感知策略网络，它通过堆化结构防止过度置信并提高策略学习的样本效率，且不忽略全局信息（整个未标记集的概览）。在我们的实验中，HAL 在 MNIST 数据集和复制的 MNIST 上优于其他基线方法。最后但并非最不重要的是，我们通过将 MNIST 数据集上学习到的 HAL 策略直接应用于 MNIST-M 来研究其泛化能力。我们表明该智能体能够泛化并在受限标记集下优于直接学习的策略。
引用
@article{arxiv.1911.07574,
title = {Bias-Aware Heapified Policy for Active Learning},
author = {Wen-Yen Chang and Wen-Huan Chiang and Shao-Hao Lu and Tingfan Wu and Min Sun},
journal= {arXiv preprint arXiv:1911.07574},
year = {2019}
}