回归网络的标签编码
机器学习
2022-12-06 v1 计算机视觉与模式识别
摘要
深度神经网络被用于广泛的回归问题。然而,专用方法与通用直接回归(即通过最小化输出标签的平方或绝对误差来训练网络)之间存在显著的精度差距。先前工作表明,用一组二分类器解决回归问题可利用研究充分的二分类算法来提高精度。我们引入二值编码标签(BEL),其通过将二分类应用于回归推广到一个框架,在编码目标值时考虑任意多比特值。基于理论与实证研究,我们确定了用于实值与二值编码标签之间转换的合适编码与解码函数的期望性质。这些性质凸显了分类错误概率与标签编码的纠错能力之间的权衡。BEL 可与现成的任务特定特征提取器结合并端到端训练。我们提出了一系列 BEL 的样本编码、解码和训练损失函数,并证明它们比直接回归和专用方法产生更低的误差,同时适用于多样的回归问题、网络架构和评估指标。BEL 在多个回归基准上取得了最先进的精度。代码见于 https://github.com/ubc-aamodt-group/BEL_regression。
引用
@article{arxiv.2212.01927,
title = {Label Encoding for Regression Networks},
author = {Deval Shah and Zi Yu Xue and Tor M. Aamodt},
journal= {arXiv preprint arXiv:2212.01927},
year = {2022}
}
备注
Published at ICLR 2022