存在标签噪声下的深度主动学习:综述
机器学习
2023-09-21 v2
摘要
深度主动学习已成为在预定义标注预算内训练深度学习模型的强大工具。这些模型已取得可与离线设置下训练的模型相媲美的性能。然而,当处理含噪声标签的分类数据集时,深度主动学习面临实质性问题。在本文献综述中,我们讨论存在标签噪声下深度主动学习的现状,突出独特方法及其优缺点。随着视觉 transformer 在图像分类任务中的近期成功,我们提供简要概述,并考量 transformer 层与注意力机制如何被用于增强发送给 oracle 标注的查询中基于多样性、重要性与不确定性的选择。我们进一步提议探索对比学习方法以导出良好的图像表示,从而有助于在主动学习设置中选择高价值样本进行标注。我们还强调需要为存在标签噪声下图像分类的深度主动学习创建统一基准与标准化数据集,以促进研究的可复现性。本综述以建议该领域未来研究途径作结。
引用
@article{arxiv.2302.11075,
title = {Deep Active Learning in the Presence of Label Noise: A Survey},
author = {Moseli Mots'oehli and Kyungim Baek},
journal= {arXiv preprint arXiv:2302.11075},
year = {2023}
}
备注
20 pages, PhD literature review