通过多任务双层优化学习排序用于主动学习
机器学习
2023-10-27 v1
摘要
主动学习是一种通过策略性请求标注来降低标注成本、提升模型性能的 promising 范式。然而，现有主动学习方法通常依赖于计算代价高昂的采集函数、大量的模型重训练以及与标注者的多轮交互。为克服这些局限，我们提出了一种新颖的主动学习方法，旨在通过习得的数据采集代理模型筛选未标注实例批次。该方法的一个关键挑战是开发泛化良好的采集函数，因为作为效用函数输入一部分的数据历史会随时间增长。我们的新颖算法贡献是一个双层多任务双层优化框架，可预测不同训练集的相对效用——以验证精度衡量——并确保习得的采集函数有效泛化。对于验证精度评估代价高昂的情况，我们引入了高效的基于插值的代理模型来估计效用函数，降低评估成本。我们在标准主动分类基准上通过大量实验展示了方法的性能。通过采用我们习得的效用函数，我们显示出相较传统技术的显著改进，为主动学习应用中更高效、更有效的效用最大化铺平了道路。
引用
@article{arxiv.2310.17044,
title = {Learning to Rank for Active Learning via Multi-Task Bilevel Optimization},
author = {Zixin Ding and Si Chen and Ruoxi Jia and Yuxin Chen},
journal= {arXiv preprint arXiv:2310.17044},
year = {2023}
}