面向广义 Dantzig 选择器与有序 $\ell_1$ 范数 FDR 控制的快速鞍点算法
机器学习
2016-06-03 v3 最优化与控制
摘要
本文基于一种新的凸-凹鞍点 (SP) 重构，提出一种原始-对偶近端额外梯度算法来求解广义 Dantzig 选择器 (GDS) 估计问题。我们的新公式使得采用鞍点优化的最新进展成为可能，从而实现最优的 收敛速率。与最优的非 SP 算法相比，我们的算法不需要指定影响算法性能或解质量的敏感参数。我们还提供了一种新的分析，展示了在特殊情况下即使没有强凸性或强平滑性，也可能实现局部加速以达到 的速率。作为应用，我们提出了一种配备有序 范数的 GDS，展示了其在变量选择中的错误发现率控制特性。我们将本算法与其他替代算法的性能进行了比较，包括线性化 ADMM、Nesterov 平滑技术、Nemirovski 镜像近端法以及加速混合近端额外梯度技术。
引用
@article{arxiv.1511.05864,
title = {Fast Saddle-Point Algorithm for Generalized Dantzig Selector and FDR Control with the Ordered l1-Norm},
author = {Sangkyun Lee and Damian Brzyski and Malgorzata Bogdan},
journal= {arXiv preprint arXiv:1511.05864},
year = {2016}
}
备注
In AISTATS 2016