Prior2Posterior：长尾学习中的模型先验修正
计算机视觉与模式识别
2024-12-24 v1 人工智能
摘要
基于学习的长尾识别解决方案面临在平衡测试数据集上的泛化问题。由于数据先验不平衡，学习得到的后验分布会偏向于最频繁（head）类别，从而导致对最不频繁（tail）类别的性能下降。在一般情况下，通过消除使用类别样本数量（频率）建模的不平衡先验的影响，可以提高性能。我们首先观察到，训练后模型在类别上的有效先验，可能不同于使用类别频率获取的经验先验。因此，我们提出了一种新方法，通过后验概率准确地建模已训练模型的有效先验。我们提出在训练后以后验概率的方式，调整预测的后验概率以纠正不平衡先验（Prior2Posterior：P2P），并表明这可以导致更好的模型性能。我们的方法针对使用简单交叉熵损失以及 logit 调整损失训练的模型，提供了最优性理论分析。我们的实验表明，该方法在来自长尾文献中多个基准数据集上实现了新的状态（SOTA）。此外，该方法可用于检查任何现有方法以捕获有效先验并消除剩余偏差，而无需重新训练模型。我们还展示了通过该后处理方法，许多现有方法的性能可以进一步提升。
引用
@article{arxiv.2412.16540,
title = {Prior2Posterior: Model Prior Correction for Long-Tailed Learning},
author = {S Divakar Bhat and Amit More and Mudit Soni and Surbhi Agrawal},
journal= {arXiv preprint arXiv:2412.16540},
year = {2024}
}
备注
IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) 2025