分位数参数的自动推断
机器学习
2015-11-13 v1
摘要
监督学习是活跃的研究领域,在数据分析、计算机视觉、语音与音频处理、图像理解等多种领域有广泛应用。多数情况下,机器学习中使用的损失函数假设对称噪声模型,并试图估计未知函数参数。然而,分位数损失和分位数Huber损失将对称的和Huber损失推广到固定分位数参数下的非对称设置。本文中,我们提出针对非对称分位数Huber和分位数损失,联合推断分位数参数与未知函数参数。我们探究分位数Huber损失的多种性质,并实现可用于检查分位数参数凸性的凸性证书。当损失关于函数参数凸时,我们证明其在函数参数和分位数参数上均为双凸,并提出联合估计二者的算法。合成与真实数据结果表明,所提方法能自动恢复对应噪声的分位数参数,并改善函数参数的恢复。为说明框架潜力,我们将带分位数损失的梯度提升机扩展为在每次迭代自动估计分位数参数。
引用
@article{arxiv.1511.03990,
title = {Automatic Inference of the Quantile Parameter},
author = {Karthikeyan Natesan Ramamurthy and Aleksandr Y. Aravkin and Jayaraman J. Thiagarajan},
journal= {arXiv preprint arXiv:1511.03990},
year = {2015}
}
备注
8 pages