用于类不平衡学习的双重补偿残差网络
计算机视觉与模式识别
2023-08-28 v1
摘要
为数据驱动的深度模型学习类不平衡数据的可泛化表征与分类器是一项挑战。多数研究试图重新平衡数据分布，这易导致尾类过拟合与头类欠拟合。本工作中，我们提出双重补偿残差网络以更好地拟合尾类与头类。首先，我们提出双重特征补偿模块（FCM）与对数补偿模块（LCM）来缓解过拟合。这两个模块的设计基于如下观察：导致过拟合的一个重要因素是尾类上训练与测试数据间存在严重的特征漂移。具体而言，尾类的测试特征倾向于向多个相似头类的特征云漂移。因此 FCM 为每个尾类估计多模态特征漂移方向并予以补偿。此外，LCM 沿类内变化平移由 FCM 估计的确定性特征漂移向量，以覆盖更大的有效补偿空间，从而更好地拟合测试特征。其次，我们提出残差平衡多代理分类器（RBMC）来缓解欠拟合。受重新平衡策略阻碍分类器学习充分头类知识并最终导致欠拟合这一观察的启发，RBMC 利用带残差路径的均匀学习以促进分类器学习。在长尾与类增量基准上的综合实验验证了本方法的有效性。
引用
@article{arxiv.2308.13165,
title = {Dual Compensation Residual Networks for Class Imbalanced Learning},
author = {Ruibing Hou and Hong Chang and Bingpeng Ma and Shiguang Shan and Xilin Chen},
journal= {arXiv preprint arXiv:2308.13165},
year = {2023}
}
备注
20 pages