低预算主动学习的直接获取优化
机器学习
2024-02-12 v1
摘要
主动学习(AL)在将数据密集型机器学习(ML)模型集成到标注数据有限的领域方面日益受到重视。然而,当标注预算较低时,其有效性显著下降。在本文中,我们首先通过实验观察到现有AL算法在低预算设置下的性能退化,然后引入了直接获取优化(DAO),这是一种新颖的AL算法,基于期望的真实损失减少来优化样本选择。具体而言,DAO利用影响函数更新模型参数,并引入额外的获取策略以减轻损失估计中的偏差。这种方法能够更准确地估计整体误差减少,而无需大量计算或依赖标注数据。实验表明,DAO在低预算设置下有效,在七个基准上优于最先进的方法。
引用
@article{arxiv.2402.06045,
title = {Direct Acquisition Optimization for Low-Budget Active Learning},
author = {Zhuokai Zhao and Yibo Jiang and Yuxin Chen},
journal= {arXiv preprint arXiv:2402.06045},
year = {2024}
}