广义 Dantzig 选择器:在 k-支撑范数中的应用
机器学习
2015-02-03 v3 机器学习
摘要
我们提出了一种用于线性模型的广义 Dantzig 选择器 (GDS),其中任何编码参数结构的范数均可用于估计。我们研究了 GDS 的计算与统计两方面特性。基于共轭近端算子,设计了一个灵活的不可精确 ADMM 框架以求解 GDS,并建立了关于估计误差的非渐近高概率界,该界限依赖于单位范数球的高斯宽度以及包含估计误差的适当集合。此外,我们考虑了一个使用 -支撑范数的非平凡 GDS 示例。由于现有方法在此设定下不适用,我们推导了一种计算 -支撑范数近端算子的高效方法。对于统计分析,我们提供了 GDS 分析所需高斯宽度的上界,从而给出了首个使用 -支撑范数进行估计的统计恢复保证。实验结果证实了我们的理论分析。
引用
@article{arxiv.1406.5291,
title = {Generalized Dantzig Selector: Application to the k-support norm},
author = {Soumyadeep Chatterjee and Sheng Chen and Arindam Banerjee},
journal= {arXiv preprint arXiv:1406.5291},
year = {2015}
}
备注
Updates to bound