中文

基于 Lewis 权重抽样的多深度模型单次主动学习

机器学习 2024-10-03 v2

摘要

针对多个目标模型的主动学习旨在减少标签查询,同时有效训练多个模型。现有主动学习算法常依赖迭代模型训练,对于深度模型而言计算开销较大。本文提出一种单次主动学习方法,以解决这一挑战,无需重复模型训练即可完成所有标签查询。具体而言,我们使用不同的网络骨干网络从同一数据集中提取不同的表示,并通过 p\ell_p-回归问题在每个表示上进行主动学习。通过基于表示中最大Lewis权值的样本抽取和重加权来近似求解回归问题。我们对 p[1,+)p\in [1, +\infty) 提供了所需样本数量的上界,并给出严格分析。实验在11个基准数据集上表明,单次方法在多个目标模型方面达到了与最先进主动学习方法相当的性能。

关键词

引用

@article{arxiv.2405.14121,
  title  = {One-shot Active Learning Based on Lewis Weight Sampling for Multiple Deep Models},
  author = {Sheng-Jun Huang and Yi Li and Yiming Sun and Ying-Peng Tang},
  journal= {arXiv preprint arXiv:2405.14121},
  year   = {2024}
}

备注

The proof of Lemma 3.11 is fixed