DOST——面向带噪标签多标签分类的域遵从自监督训练
机器学习
2023-08-10 v1 人工智能
摘要
深度学习技术带来的对标注数据的巨大需求伴随着标注噪声问题。尽管该问题在机器学习文献中已被广泛讨论，但在具有更复杂噪声类型的“多标签分类”(MLC)任务背景下却相对未被探索。此外，当所讨论的域具有某些逻辑约束时，噪声标注往往加剧对其的违反，使得此类系统不为专家所接受。本文研究了标签噪声对 MLC 任务中域规则违反事件的影响，并将域规则纳入我们的学习算法以缓解噪声的影响。我们提出了域遵从自监督训练(DOST)范式，其不仅使深度学习模型更贴合域规则，还提升了关键指标上的学习性能并最小化标注噪声的影响。这一新方法以自监督方式利用域引导来检测违规标注并阻止违反规则的预测，从而使其更具“数据高效”且遵从域。在两个大规模多标签分类数据集上进行的实证研究表明，我们的方法在各方面均有提升，且常能完全抵消噪声的影响。
引用
@article{arxiv.2308.05101,
title = {DOST -- Domain Obedient Self-supervised Training for Multi Label Classification with Noisy Labels},
author = {Soumadeep Saha and Utpal Garain and Arijit Ukil and Arpan Pal and Sundeep Khandelwal},
journal= {arXiv preprint arXiv:2308.05101},
year = {2023}
}
备注
Submitted to IEEE TNNLS on March 7th 2023. 8 pages, 4 figures