用于优化非可分解目标的选择性 Mixup 微调

互联网使用的增长导致了海量数据的产生,促使各种监督和半监督机器学习算法被采用,这些算法能够有效利用海量数据来训练模型。然而,在将这些模型部署到现实世界之前,必须严格评估其在最差情况召回率等性能指标上的表现,并满足公平性等约束。我们发现,当前最先进的经验技术在处理这些实际的非可分解性能目标时表现次优。另一方面,理论技术要求为每个性能目标从头训练新模型。为了弥合这一差距,我们提出了 SelMix,一种基于选择性 mixup 的低成本预训练模型微调技术,以优化给定目标。我们框架的核心思想是确定一个采样分布,对来自特定类别样本之间的特征进行 mixup,从而优化给定目标。我们在标准基准数据集上针对现有的经验方法和理论原则方法,对不平衡分类任务全面评估了我们的技术。我们发现,所提出的 SelMix 微调在各项基准测试中显著提升了各种实际非可分解目标的性能。