中文

熵开放集主动学习

计算机视觉与模式识别 2023-12-22 v1

摘要

主动学习 (Active Learning, AL) 旨在从未标记数据池中选择信息量最大的样本进行标注,以提升深度模型的性能。尽管在封闭集设置中表现优异,但大多数 AL 方法在包含未知类别的真实世界场景中往往失效。近期,少数研究尝试解决开放集设置下的 AL 问题,但这些方法更侧重于选择已知样本,未能有效利用 AL 轮次中获得的未知样本。本文提出了一种熵开放集 AL (EOAL) 框架,该框架有效利用已知和未知分布,在 AL 轮次中选择信息量大的样本。具体而言,我们的方法采用两种不同的熵分数:一种衡量样本相对于已知类别分布的不确定性,另一种衡量样本相对于未知类别分布的不确定性。通过利用这两个熵分数,我们有效地从未标记数据中分离出已知和未知样本,从而实现更好的采样。大量实验表明,所提方法在 CIFAR-10、CIFAR-100 和 TinyImageNet 数据集上优于现有的最先进 (SOTA) 方法。代码地址:\url{https://github.com/bardisafa/EOAL}。

关键词

引用

@article{arxiv.2312.14126,
  title  = {Entropic Open-set Active Learning},
  author = {Bardia Safaei and Vibashan VS and Celso M. de Melo and Vishal M. Patel},
  journal= {arXiv preprint arXiv:2312.14126},
  year   = {2023}
}

备注

Accepted in AAAI 2024