利用递减软标签的分组分类实现深度不平衡回归
机器学习
2024-12-20 v2
摘要
深度不平衡回归（DIR）是一个引人入胜但在机器学习中探索不足的问题，其目标值具有高度偏斜的分布且是连续的。虽然最近的工作已经表明，结合各种基于分类的正则化器可以产生更好的结果，但分类在 DIR 中的作用仍然难以捉摸。此外，此类正则化器（例如对比惩罚）仅关注学习数据的判别性特征，这不可避免地导致忽视数据间的连续性或相似性。为了解决这些问题，我们首先从贝叶斯视角建立 DIR 目标与分类之间的联系。因此，这促使我们将 DIR 的目标分解为分类和回归任务的组合，这自然引导我们以分而治之的方式解决 DIR 问题。具体而言，通过将具有邻近标签的数据聚合到同一组中，我们引入了一种有序的组感知对比学习损失以及多专家回归器来处理不同组的数据，从而保持数据的连续性。同时，考虑到组之间的相似性，我们还提出了一种对称递减软标签策略来利用数据间的内在相似性，这使得分类能够更有效地促进回归。在真实世界数据集上的大量实验也验证了我们方法的有效性。
引用
@article{arxiv.2412.12327,
title = {Leveraging Group Classification with Descending Soft Labeling for Deep Imbalanced Regression},
author = {Ruizhi Pu and Gezheng Xu and Ruiyi Fang and Binkun Bao and Charles X. Ling and Boyu Wang},
journal= {arXiv preprint arXiv:2412.12327},
year = {2024}
}