面向非凸约束随机优化的随机逐次凸逼近方法
信息论
2019-09-04 v2 math.IT
摘要
本文提出一种约束随机逐次凸逼近(CSSCA)算法，用于求解一般非凸随机优化问题的驻点，该问题的目标函数与约束函数均为非凸且涉及随机状态上的期望。现有大多数非凸随机优化方法，如随机(平均)梯度法与随机优超最小化，仅考虑在确定性凸集上最小化随机非凸目标。所提出的CSSCA算法还能处理优化问题中的随机非凸约束，从而为求解许多应用中出现的更具挑战性的优化问题开辟了途径。该算法基于求解一系列凸目标/可行性优化问题，这些问题的原问题中的目标/约束函数被某些凸代理函数所替代。CSSCA算法允许一类广泛的代理函数，因而为针对特定应用设计良好的代理函数提供了很大自由度。此外，它还有助于并行求解当今信号处理(如机器学习和大数据分析)中自然出现的大规模随机优化问题。我们建立了具有可行初始点的CSSCA算法的收敛性，并定制该算法框架以求解若干重要应用问题。仿真表明，CSSCA算法相比现有方案可取得更优性能。
引用
@article{arxiv.1801.08266,
title = {Stochastic Successive Convex Approximation for Non-Convex Constrained Stochastic Optimization},
author = {An Liu and Vincent Lau and Borna Kananian},
journal= {arXiv preprint arXiv:1801.08266},
year = {2019}
}
备注
submitted to IEEE Transactions on Signal Processing, under minor revision