用于长尾视觉识别的嵌套协作学习
计算机视觉与模式识别
2022-04-20 v2
摘要
在长尾数据集上训练的网络尽管训练设置相同却差异显著，这表明长尾学习中存在巨大的不确定性。为缓解该不确定性，我们提出嵌套协作学习（NCL），通过协作地共同学习多个专家来解决此问题。NCL 由两个核心组件构成，即嵌套个体学习（NIL）与嵌套平衡在线蒸馏（NBOD），分别侧重于每个单一专家的个体监督学习以及多个专家间的知识迁移。为更彻底地学习表征，NIL 与 NBOD 均以嵌套方式构建，其中学习不仅从全局视角在所有类别上进行，也从局部视角在一些困难类别上进行。关于局部视角下的学习，我们通过提出的困难类别挖掘（HCM）具体地将预测分数高的负类别选为困难类别。在 NCL 中，来自两个视角的学习是嵌套、高度相关且互补的，帮助网络不仅捕捉全局鲁棒特征，还获得精细的区分能力。此外，进一步利用自监督进行特征增强。大量实验证明了我们方法的优越性，无论使用单一模型还是集成模型均优于当前最优方法。
引用
@article{arxiv.2203.15359,
title = {Nested Collaborative Learning for Long-Tailed Visual Recognition},
author = {Jun Li and Zichang Tan and Jun Wan and Zhen Lei and Guodong Guo},
journal= {arXiv preprint arXiv:2203.15359},
year = {2022}
}
备注
Accepted by CVPR 2022