低复杂度先验的尖锐 Oracle 不等式
统计理论
2017-10-04 v4 统计理论
摘要
在本文中，我们考虑高维统计估计问题，其中参数数量与样本量相当或大于样本量。我们针对指数加权聚合（exponential weighted aggregation）和惩罚估计量，结合鼓励符合某种简单性/复杂性概念对象的一般类数据损失和先验，给出了其性能保证的统一分析。更确切地说，我们证明这两种估计量满足预测的尖锐 Oracle 不等式，确保其良好的理论性能。我们还强调了它们之间的差异。当噪声为随机时，利用集中不等式给出了概率意义下的 Oracle 不等式。这些结果随后应用于若干实例，包括 Lasso、组 Lasso、其分析型对应物、 与核范数惩罚。我们所有的估计量均可使用近端分裂算法高效实现。
引用
@article{arxiv.1702.03166,
title = {Sharp Oracle Inequalities for Low-complexity Priors},
author = {Tung Duy Luu and Jalal Fadili and Christophe Chesneau},
journal= {arXiv preprint arXiv:1702.03166},
year = {2017}
}
备注
hal-01422476 version available 26 Dec. 2016