一种面向梯度主导型随机优化的齐次化方法
最优化与控制
2024-05-30 v3 机器学习
摘要
梯度主导性质是弱于强凸性的条件，却足以在非凸优化中保证全局收敛。该性质在机器学习、强化学习（RL）和运筹管理中有广泛应用。本文基于近期提出的齐次化方法，针对具有梯度主导性质的随机函数，提出随机齐次二阶下降法（SHSODM）。在理论上，我们给出其样本复杂度分析，并进一步通过结合方差缩减技术给出改进结果。我们的结果表明，SHSODM 在不使用三次正则化的情况下，达到了其他梯度主导型随机优化二阶方法的最佳已知样本复杂度。在实验上，由于齐次化方法每次迭代仅依赖求解极值特征向量问题而非牛顿型系统，我们的方法在病态问题中具有计算代价更低和鲁棒性更强的优势。在多个 RL 任务上的数值实验展示了 SHSODM 优于其他现有方法的性能。
引用
@article{arxiv.2308.10630,
title = {A Homogenization Approach for Gradient-Dominated Stochastic Optimization},
author = {Jiyuan Tan and Chenyu Xue and Chuwen Zhang and Qi Deng and Dongdong Ge and Yinyu Ye},
journal= {arXiv preprint arXiv:2308.10630},
year = {2024}
}
备注
Accepted by UAI`24