不平衡回归中的模型优化
机器学习
2022-08-17 v2 人工智能
机器学习
摘要
不平衡领域学习旨在对虽代表性不足但对领域至关重要的实例产生准确的预测模型。该领域的研究主要集中于分类任务。相较之下，在回归任务背景下开展的研究数量可忽略不计。其主要原因之一在于缺乏能够聚焦于最小化极端（稀有）值误差的损失函数。近来，一种评价指标被提出：平方误差关联面积 (SERA)。该度量更强调极端值处产生的误差，同时也考虑整体目标变量域上的表现，从而防止严重偏倚。然而，其作为优化度量的有效性尚属未知。本文中，我们的目标为研究在不平衡回归任务中使用 SERA 作为优化准则的影响。以梯度提升算法作为概念验证，我们使用 36 个来自不同领域与规模的数据集进行了实验研究。结果表明，以 SERA 为目标函数的模型在极端值预测上实际上优于各自标准提升算法所产生的模型。这证实了 SERA 可作为损失函数嵌入基于优化的学习算法中，用于不平衡回归场景。
引用
@article{arxiv.2206.09991,
title = {Model Optimization in Imbalanced Regression},
author = {Aníbal Silva and Rita P. Ribeiro and Nuno Moniz},
journal= {arXiv preprint arXiv:2206.09991},
year = {2022}
}