通过代表性和多样性样本选择提升半监督学习
机器学习
2024-10-29 v2 计算机视觉与模式识别
摘要
半监督学习（SSL）已成为许多深度学习任务中的首选范式，减少了对人力的需求。以往研究主要关注有效利用标记和未标记数据以提高性能。然而，我们注意到在样本选择方面如何进行标记也对性能影响显著，尤其是在极低预算设置下。样本选择任务在长期以来一直未得到充分探索。为填补这一空白，我们提出了一种代表性和多样性样本选择方法（RDSS）。通过采用修改版Frank-Wolfe算法来最小化一种新颖准则 -最大均值差异（-MMD），RDSS从未标记数据中抽取代表性和多样性子集进行标注。我们证明，最小化 -MMD 可增强低预算学习的泛化能力。实验结果表明，RDSS 在改进几个流行SSL框架方面 consistently 有效，并甚至在受限标注预算下超过用于主动学习（AL）和半监督主动学习（SSAL）的最先进样本选择方法。
引用
@article{arxiv.2409.11653,
title = {Enhancing Semi-Supervised Learning via Representative and Diverse Sample Selection},
author = {Qian Shao and Jiangrui Kang and Qiyuan Chen and Zepeng Li and Hongxia Xu and Yiwen Cao and Jiajuan Liang and Jian Wu},
journal= {arXiv preprint arXiv:2409.11653},
year = {2024}
}
备注
NeurIPS 2024