无梯度极小极大优化：方差缩减与更快收敛

Tengyu Xu; Zhe Wang; Yingbin Liang; H. Vincent Poor

无梯度极小极大优化：方差缩减与更快收敛

机器学习 2021-03-23 v3 最优化与控制机器学习

作者: Tengyu Xu , Zhe Wang , Yingbin Liang , H. Vincent Poor

摘要

许多重要的机器学习应用等价于求解极小极大优化问题，且在许多情况下无法获取梯度信息，而仅有函数值。本文关注此种无梯度设定，并考虑非凸-强凹的极小极大随机优化问题。文献中已提出多种零阶（即无梯度）极小极大方法，但均未达到随机非凸最小化定理所暗示的潜在可行的 $\mathcal{O}(\epsilon^{-3})$ 计算复杂度。本文采用方差缩减技术设计了一种新颖的零阶方差缩减梯度下降 ascent（ZO-VRGDA）算法。我们证明ZO-VRGDA算法达到了已知的 $\mathcal{O}(\kappa(d_1 + d_2)\epsilon^{-3})$ 最优查询复杂度，其以数量级优势超越此前所有复杂度界，其中 $d_1$ 与 $d_2$ 表示优化变量的维度， $\kappa$ 表示条件数。特别地，借助我们所开发的新的分析技术，我们的结果不依赖于现有方法通常所需的递减或依赖于精度的步长。据我们所知，这是首个关于带方差缩减的零阶极小极大优化的研究。在黑盒分布鲁棒优化问题上的实验结果展示了我们新算法的优越性能。

关键词

极小极大优化零阶方法方差缩减非凸-强凹查询复杂度随机优化

引用

@article{arxiv.2006.09361,
  title  = {Gradient Free Minimax Optimization: Variance Reduction and Faster Convergence},
  author = {Tengyu Xu and Zhe Wang and Yingbin Liang and H. Vincent Poor},
  journal= {arXiv preprint arXiv:2006.09361},
  year   = {2021}
}

备注

This is an updated version to replace the previous arXiv post titled "Enhanced First and Zeroth Order Variance Reduced Algorithms for Min-Max Optimization" on 17 Jun, 2020

无梯度极小极大优化：方差缩减与更快收敛

摘要

关键词

引用

备注

相关论文