基于镜面下降算法与平均的估计量递归聚合

我们考虑一种递归算法，用于在分类问题中从有限个基决策规则构造聚合估计量。该估计量在 l1-约束下近似极小化一个凸风险泛函。它由镜面下降算法（即在对偶空间执行梯度下降的方法）的随机版本附加平均来定义。本文的主要结果是所提估计量的期望精度的上界。该上界量级为 $\sqrt{(\log M)/t}$，带有显式且很小的常数因子，其中 $M$ 为问题维数，$t$ 为样本量。对更一般的设定也证明了类似上界，该设定特别涵盖带平方损失的回归模型。