中文

凸风险度量的递归优化:均值-半偏差模型

最优化与控制 2018-10-30 v5 应用统计 统计方法学 机器学习

摘要

我们针对一类新颖、通用且由应用驱动的凸风险度量——此处称为均值-半偏差(mean-semideviations),严格推广了著名且常用的均值-上半偏差(mean-upper-semideviation)——开发了递归的、数据驱动的随机次梯度方法以进行优化。我们引入了 MESSAGEp 算法,这是一种高效的复合次梯度过程,用于迭代求解凸均值-半偏差风险厌恶问题至最优。我们在灵活且利用结构的问题假设集下分析了 MESSAGEp 算法的渐近行为。具体而言:1)在适当的步长规则下,我们以强技术意义建立了 MESSAGEp 算法的路径wise收敛,确认其渐近一致性。2)假设强凸代价,我们证明对于固定的半偏差阶数 p>1p>1 以及 ϵ[0,1)\epsilon\in\left[0,1\right),MESSAGEp 算法达到阶数为 O(n(1ϵ)/2){\cal O}(n^{-\left(1-\epsilon\right)/2}) 次迭代的平方-L2{\cal L}_{2} 解次优性速率,其中对于 ϵ>0\epsilon>0 同时保证路径wise收敛。该结果确立了任意接近 O(n1/2){\cal O}(n^{-1/2}) 的速率阶,同时确保强稳定的路径wise运行。对于 p1p\equiv1,速率阶改善为 O(n2/3){\cal O}(n^{-2/3}),这也足以保证路径wise收敛,并与先前结果一致。3)同样,在凸代价的一般情形下,我们证明对于任意 ϵ[0,1)\epsilon\in\left[0,1\right),带迭代平滑的 MESSAGEp 算法达到阶数为 O(n(1ϵ)/(41{p>1}+4)){\cal O}(n^{-\left(1-\epsilon\right)/\left(4\bf{1}_{\left\{ p>1\right\} }+4\right)}) 次迭代的 L1{\cal L}_{1} 目标次优性速率。该结果给出了最大速率:若 p1p\equiv1O(n1/4){\cal O}(n^{-1/4}),若 p>1p>1O(n1/8){\cal O}(n^{-1/8}),也与现有最优水平相当。

关键词

引用

@article{arxiv.1804.00636,
  title  = {Recursive Optimization of Convex Risk Measures: Mean-Semideviation Models},
  author = {Dionysios S. Kalogerias and Warren B. Powell},
  journal= {arXiv preprint arXiv:1804.00636},
  year   = {2018}
}

备注

90 pages, 3 figures. Update: Substantial revision of the technical content, with an additional fully detailed analysis in regard to the rate of convergence of the MESSAGEp algorithm. NOTE: Please open in browser to see the math in the abstract!