不平衡回归管道推荐
机器学习
2025-07-17 v1
摘要
不平衡问题在 various 实际场景中广泛存在,在分类任务中受到广泛探索。然而,它们也为回归任务带来挑战,因为某些目标值相对稀少。常见的替代方法是采用平衡算法进行预处理以解决数据集不平衡问题。然而,由于重抽方法和学习模型的多样性,确定最佳解决方案需要测试许多组合。此外,学习模型、数据集和评估指标会影响最佳策略。本工作提出了面向不平衡回归的元学习框架(Meta-learning for Imbalanced Regression, Meta-IR),该框架与现有文献不同,训练元分类器以零样本方式为每个任务推荐由重抽策略和学习模型组成的最佳管道。元分类器使用一组元特征来学习如何将元特征映射到指示最佳管道的类别。我们提出了两种表述:独立(Independent)和链式(Chained)。独立训练元分类器分别指示最佳学习算法和重抽策略。链式涉及一个顺序过程,其中一个元分类器的输出用作另一个元分类器的输入,以建模内在关系因素。链式方案表现优于,表明学习算法和每个任务的重抽策略之间存在关系。与 AutoML 框架相比,Meta-IR 取得了更好结果。此外,与六个学习算法和六个重抽算法加上无重抽的 42(6×7)种配置相比,Meta-IR 战胜了所有配置。代码、数据和实验的进一步信息可在 GitHub 上找到:https://github.com/JusciAvelino/Meta-IR。
引用
@article{arxiv.2507.11901,
title = {Imbalanced Regression Pipeline Recommendation},
author = {Juscimara G. Avelino and George D. C. Cavalcanti and Rafael M. O. Cruz},
journal= {arXiv preprint arXiv:2507.11901},
year = {2025}
}