中文

基于标签比较的主动学习

机器学习 2022-08-16 v2

摘要

监督学习通常依赖对真实标签的人工标注。当潜在类别众多时,从中搜寻最佳类别对人标注者而言可能代价高昂。另一方面,比较两个候选标签往往容易得多。我们关注此类成对监督,并探究如何在学习中(尤其是主动学习中)有效利用它。在此背景下我们得到若干深刻结论。原则上,从kk个标签中找出最佳者可通过k1k-1次主动查询完成。我们证明存在一类自然情形使该方法非最优,且存在更省比较的主动学习方案。我们分析的关键要素是真分布的“标签邻域图”,若两类共享决策边界则其间连边。我们还证明在PAC设定下,成对比较在最坏情况下无法提供改进的采样复杂度。我们以实验补充理论结果,清晰展示了邻域图对采样复杂度的影响。

关键词

引用

@article{arxiv.2204.04670,
  title  = {Active Learning with Label Comparisons},
  author = {Gal Yona and Shay Moran and Gal Elidan and Amir Globerson},
  journal= {arXiv preprint arXiv:2204.04670},
  year   = {2022}
}

备注

Appeared in the conference on Uncertainty in AI (UAI), 2022