变分不平衡回归:通过概率平滑实现公平的不确定性量化
机器学习
2024-11-12 v8 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
当标签分布不平衡时,现有回归模型在准确性和不确定性估计方面往往都有所不足。本文中,我们提出一种概率深度学习模型,称为变分不平衡回归(VIR),它不仅在不平衡回归中表现良好,而且自然地产生合理的不确定性估计作为副产品。不同于假设 I.I.D. 表示(一个数据点的表示不受其他数据点直接影响)的典型变分自编码器,我们的 VIR 借用具有相似回归标签的数据来计算潜表示的变分分布;此外,不同于产生点估计的确定性回归模型,VIR 预测整个正态-逆伽马分布并调节相关的共轭分布,以对不平衡数据施加概率重加权,从而提供更好的不确定性估计。在多个真实世界数据集上的实验表明,我们的 VIR 在准确性和不确定性估计方面均优于最先进的不平衡回归模型。代码将很快发布于 https://github.com/Wang-ML-Lab/variational-imbalanced-regression。
引用
@article{arxiv.2306.06599,
title = {Variational Imbalanced Regression: Fair Uncertainty Quantification via Probabilistic Smoothing},
author = {Ziyan Wang and Hao Wang},
journal= {arXiv preprint arXiv:2306.06599},
year = {2024}
}
备注
Accepted at NeurIPS 2023