中文

Propheter:先知教师引导的长尾分布学习

计算机视觉与模式识别 2023-09-26 v2

摘要

深度长尾学习这一在通用视觉识别领域中普遍存在的挑战,持续存在于众多现实应用中。为解决长尾分类中严重倾斜的数据集问题,先前的研究试图通过精心设计的类平衡策略(如类别重平衡、数据增强与模块改进)来扩充现有深度模型。尽管性能令人鼓舞,训练数据集中尾部类别有限的类知识仍制约着现有深度模型的性能。本文提出一种创新的长尾学习范式,通过以外部先验知识引导深度网络的学习来打破该瓶颈。具体而言,通过设计一个精心构建的“先知”教师(称为“Propheter”)来实现,其旨在学习潜在的类别分布。随后,目标长尾预测模型在训练良好的“Propheter”指导下进行优化,使得不同类别的分布彼此尽可能可区分。在三个架构上的八个长尾基准测试上的实验表明,所提出的先知范式可作为解决长尾数据集中类知识有限挑战的一种有前景的方案。所开发的代码已公开于 \url{https://github.com/tcmyxc/propheter}。

关键词

引用

@article{arxiv.2304.04135,
  title  = {Propheter: Prophetic Teacher Guided Long-Tailed Distribution Learning},
  author = {Wenxiang Xu and Yongcheng Jing and Linyun Zhou and Wenqi Huang and Lechao Cheng and Zunlei Feng and Mingli Song},
  journal= {arXiv preprint arXiv:2304.04135},
  year   = {2023}
}

备注

12 pages