发现Gini指数在基于提示的分类中的隐性作用

在分类任务中，长尾少数类别通常提供最重要的预测，但这些类别持续表现出低准确率，而少数高表现类别则主导整个游戏。我们致力于理解Gini指数作为检测和优化（去偏）类别准确率差异的隐性作用，聚焦于基于提示的分类情形。我们引入直觉，实际评估真实世界中大语言模型和视觉模型中的Gini分数，并深入讨论Gini不仅作为相对准确率支配度的度量，更作为直接优化指标的洞见。通过严格的案例分析，我们首先展示，在基于提示的、文本和图像分类结果中，以及分类是高维还是低维时，都存在弱到强的相对准确率不平衡。随后，我们利用Gini指标提出一种后处理模型无关的偏差缓解方法。实验在few-shot新闻、生物医学和zero-shot图像分类上表明，我们的方法显著减少了相对和绝对准确率不平衡，最小化顶级类别的相对主导地位，同时提升最弱类别的表现。