Banach 空间中的随机辅助问题原理：可测性与收敛性
最优化与控制
2022-05-23 v3
摘要
随机辅助问题原理（APP）算法是一种通用的随机逼近（SA）格式，它将原优化问题的求解转化为一系列辅助问题的迭代求解。该框架最初用于设计分解-协调格式，但也包含了许多著名的 SA 算法，如随机梯度下降或随机镜像下降。我们研究迭代点位于 Banach 空间且目标函数次梯度计算带有加性误差时的随机 APP。为推导 SA 格式的收敛结果或效率估计，迭代点必须是随机变量。因此我们证明了随机 APP 算法迭代点的可测性。随后，我们将收敛结果从 Hilbert 空间情形推广至 Banach 空间情形。最后，我们针对平均迭代序列或末次迭代处的函数值推导效率估计，后者通过将修正 Fejér 单调性的概念适配到我们的框架而得到。
引用
@article{arxiv.2101.08073,
title = {The stochastic Auxiliary Problem Principle in Banach spaces: measurability and convergence},
author = {Thomas Bittar and Pierre Carpentier and Jean-Philippe Chancelier and Jérôme Lonchampt},
journal= {arXiv preprint arXiv:2101.08073},
year = {2022}
}