AdaPRL：用于通用回归任务的自适应成对回归学习带不确定性估计
机器学习
2025-02-11 v3
摘要
当前深度回归模型通常以点式方式学习，将每个样本视为独立输入，忽略不同数据之间的相对排序。这导致回归模型可能忽略数据之间的相互关系，从而产生次优性能。此外，训练数据中存在阿尔泔冗度不确定性，可能导致模型捕获非通用模式，增加过拟合。为解决这些问题，我们提出一种新颖的自适应成对学习框架，用于回归任务(AdaPRL)，该框架利用数据点之间的相对差异，并与深度概率模型集成以量化预测不确定性。我们还将 AdaPRL 适用于多任务学习和多变量时间序列预测。广泛的实验使用包括推荐系统、年龄预测、时间序列预测、自然语言理解、金融和工业数据集表明，AdaPRL 能与各种任务中不同的数据集兼容，并在广大任务中实现无需额外推理成本的性能卓越，凸显其在提高预测准确性和排序能力、增强泛化能力、提高对噪声数据的鲁棒性、提高数据受限情况下的韧性以及增强可解释性方面的显著潜力。实验还表明，AdaPRL 可无缝集成到最近提出的回归框架中，以获得性能提升。
引用
@article{arxiv.2501.05809,
title = {AdaPRL: Adaptive Pairwise Regression Learning with Uncertainty Estimation for Universal Regression Tasks},
author = {Fuhang Liang and Rucong Xu and Deng Lin},
journal= {arXiv preprint arXiv:2501.05809},
year = {2025}
}
备注
24 pages, 11 figures