基于二分交叉熵的三元协同学习用于长尾识别
计算机视觉与模式识别
2025-11-19 v1
摘要
对于长尾识别 (LTR) 任务，头类和尾类样本在特征紧凑性和类别间可分性方面都有望达到较高水平，同时所有分类器向量之间的可分性应保持平衡。现有基于交叉熵 (CE) loss 的 LTR 方法不仅难以学习具有理想属性的特征，还会在 Softmax 分母中将不平衡的分类器向量耦合在一起，放大了 LTR 中的不平衡效应。本文提出一种基于二分交叉熵 (BCE) 的三元协同学习，称为 BCE3S，包含三个组件：(1) BCE 基于的联合学习优化分类器和样本特征，实现比 CE 基于的联合学习更好的特征紧凑性和可分性，通过在多个 Sigmoid 中解耦特征与不平衡分类器向量之间的度量；(2) BCE 基于的对比学习进一步提高特征的类内紧凑性；(3) BCE 基于的均匀学习在分类器向量之间实现可分性平衡，并通过与联合学习结合来交互式提升特征属性。大量实验表明，由 BCE3S 训练的 LTR 模型不仅在样本特征的紧凑性和可分性方面取得更佳效果，还在分类器的可分性方面实现平衡，在各种长尾数据集（如 CIFAR10-LT、CIFAR100-LT、ImageNet-LT 和 iNaturalist2018）上实现 SOTA 性能。
引用
@article{arxiv.2511.14097,
title = {BCE3S: Binary Cross-Entropy Based Tripartite Synergistic Learning for Long-tailed Recognition},
author = {Weijia Fan and Qiufu Li and Jiajun Wen and Xiaoyang Peng},
journal= {arXiv preprint arXiv:2511.14097},
year = {2025}
}
备注
[AAAI-2026] code: https://github.com/wakinghours-github/BCE3S