中文

用 $k$-支撑范数拟合谱衰减

机器学习 2016-01-05 v1 机器学习

摘要

kk-支撑范数在低秩矩阵学习问题中具有良好的估计性质,经验上优于迹范数。其单位球是单位 Frobenius 范数的秩 kk 矩阵的凸包。本文将该范数推广到谱 (k,p)(k,p)-支撑范数,其附加参数 pp 可用于使范数适应底层模型的谱衰减。我们刻画了单位球并显式计算了该范数。我们进一步提供了一种条件梯度法来求解带有该范数的正则化问题,并推导了在 p=p=\infty 情况下计算单位球上欧氏投影的高效算法。在数值实验中,我们表明,在各种矩阵补全基准上,允许 pp 变化相比谱 kk-支撑范数显著提升了性能,并且能更好地捕捉底层模型的谱衰减。

关键词

引用

@article{arxiv.1601.00449,
  title  = {Fitting Spectral Decay with the $k$-Support Norm},
  author = {Andrew M. McDonald and Massimiliano Pontil and Dimitris Stamos},
  journal= {arXiv preprint arXiv:1601.00449},
  year   = {2016}
}