鞍点算法估计量的中心极限定理
最优化与控制
2023-11-07 v3 统计理论
统计理论
摘要
本工作中，我们研究一个全局凸-凹且局部强凸强凹目标的鞍点之算法估计量的渐近随机性。具体而言，我们证明针对鞍点问题（SPP）的随机外梯度（SEG）方法的平均迭代几乎必然收敛到鞍点，并在鞅差分噪声与状态（决策）依赖马尔可夫噪声下遵循具有最优协方差的中心极限定理（CLT）。为确保算法动态在状态依赖马尔可夫噪声下的稳定性，我们提出一种带截断变动集的 SEG 变体。有趣的是，我们证明即使目标为强凸强凹，状态依赖马尔可夫数据序列也会导致随机梯度下降上升（SGDA）发散。本工作的主要新颖性在于为随机 SPP 的 SEG 建立 CLT，尤其在状态依赖马尔可夫噪声下。这是朝向 SPP 在线推断的第一步，具有包括博弈、鲁棒策略分类与强化学习在内的众多潜在应用。我们通过数值实验阐明我们的结果。
引用
@article{arxiv.2306.06305,
title = {A Central Limit Theorem for Algorithmic Estimator of Saddle Point},
author = {Abhishek Roy and Yi-An Ma},
journal= {arXiv preprint arXiv:2306.06305},
year = {2023}
}