基于比较的回归:利用序数信息摆脱维度灾难
机器学习
2020-10-27 v2 机器学习
摘要
在监督学习中,我们通常利用完全标注的数据集来设计函数估计或预测方法。在许多实际情境中,我们能够以较低成本获得替代性反馈。一个广泛的目标是理解此类替代性反馈的用处,并设计算法加以利用。本文中,我们考虑一种半监督回归设定,其中我们为未标注样本获取额外的序数(或比较)信息。我们考虑不同质量的序数反馈:样本完美排序、样本含噪排序或样本间含噪两两比较。我们精确量化了这些序数反馈在非参数与线性回归中的用处,表明在许多情况下可用极少量标注集准确估计底层函数,从而有效\emph{摆脱维度灾难}。我们还给出下界,确立了该任务的基本极限,并表明我们的算法在多种设定下是最优的。最后,我们在新数据集上进行了大量实验,证明了算法的有效性与实用性,并考察了其对各类噪声与模型误设的鲁棒性。
引用
@article{arxiv.1806.03286,
title = {Regression with Comparisons: Escaping the Curse of Dimensionality with Ordinal Information},
author = {Yichong Xu and Sivaraman Balakrishnan and Aarti Singh and Artur Dubrawski},
journal= {arXiv preprint arXiv:1806.03286},
year = {2020}
}
备注
52 pages, 11 figures; Preliminary version in International Conference on Machine Learning 2018