LT-Soups：通过子采样模型汤连接头部与尾部类别

现实世界的数据集通常呈现长尾分布，其中少数头部类别占主导地位，而许多尾部类别则严重代表性不足。尽管最近的研究表明，像LoRA和AdaptFormer这样的参数高效微调方法在CLIP等基础模型上保持了尾部类别的性能，但我们发现它们是以牺牲头部类别的准确性为代价的。我们确定了头尾比（头部与尾部类别的比例）是影响这种权衡的一个关键但被忽视的因素。通过在CIFAR100上使用不同的不平衡比率（$\rho$）和头尾比（$\eta$）进行受控实验，我们表明PEFT在尾部繁重的情况下表现出色，但在更平衡和头部繁重的分布中性能下降。为了克服这些限制，我们提出了LT-Soups，一个两阶段的模型汤框架，旨在泛化到不同的长尾场景。在第一阶段，LT-Soups对在平衡子集上微调的模型进行平均以减少头部类别偏差；在第二阶段，它仅在完整数据集上微调分类器以恢复头部类别的准确性。在六个基准数据集上的实验表明，与PEFT和传统模型汤相比，LT-Soups在各种不平衡机制下实现了更优的权衡。