基于高效代理学习器的主动学习引导方法
机器学习
2023-12-19 v2 计算机视觉与模式识别
摘要
由于训练过程固有的复杂性,每收到一个数据点的新标签就重新训练深度学习模型是不切实际的。因此,现有的主动学习(AL)算法倾向于采用基于批次的方法,即在每次AL迭代中集体选择一组数据点进行标注。然而,该策略常导致冗余采样,最终削弱标注流程的有效性。本文引入一种新AL算法,其利用高斯过程代理与神经网络主学习器相结合。我们所提模型能为每个新数据实例熟练更新代理学习器,使其在不需对主模型逐个标签完全重训的情况下,模拟并善用神经网络的连续学习动态。在四个基准数据集上的实验表明,该方法取得显著改进,可与最先进技术的性能相媲美或一致。
引用
@article{arxiv.2301.02761,
title = {Active Learning Guided by Efficient Surrogate Learners},
author = {Yunpyo An and Suyeong Park and Kwang In Kim},
journal= {arXiv preprint arXiv:2301.02761},
year = {2023}
}