CurriculumNet:基于大规模网络图像的弱监督学习
计算机视觉与模式识别
2018-10-19 v4
摘要
我们提出了一种简单而高效的方法,能够在大规模弱监督网络图像上训练深度神经网络;这些图像通过使用文本查询从互联网原始爬取,无任何人工标注。我们利用课程学习(curriculum learning)制定了一套原则性学习策略,旨在有效处理海量噪声标签与数据不平衡问题。我们通过特征空间中数据的分布密度来度量数据复杂度,并以无监督方式对复杂度排序,从而设计了一种新的学习课程。这使得课程学习能够在大规模网络图像上高效实现,得到一个高性能 CNN 模型,其中噪声标签的负面影响被大幅降低。重要的是,我们通过实验表明,那些具有高度噪声标签的图像竟可出人意料地提升模型的泛化能力,起到一种正则化作用。我们的方法在四个基准上取得了最先进(SOTA)性能:WebVision、ImageNet、Clothing-1M 和 Food-101。通过多个模型的集成,我们在 WebVision 千类分类挑战上取得了 5.2% 的 top-5 错误率。该结果大幅领先,相对错误率近乎比第二名低 50%。代码与模型见:https://github.com/MalongTech/CurriculumNet。
引用
@article{arxiv.1808.01097,
title = {CurriculumNet: Weakly Supervised Learning from Large-Scale Web Images},
author = {Sheng Guo and Weilin Huang and Haozhi Zhang and Chenfan Zhuang and Dengke Dong and Matthew R. Scott and Dinglong Huang},
journal= {arXiv preprint arXiv:1808.01097},
year = {2018}
}
备注
Accepted to ECCV 2018. 16 pages, 5 figures, 5 tables