先验引导零阶优化算法的收敛性分析
机器学习
2021-11-09 v2 机器学习
最优化与控制
摘要
零阶（ZO）优化被广泛用于处理具有挑战性的任务，例如基于查询的黑盒对抗攻击与强化学习。已有多种尝试将先验信息整合到基于有限差分的梯度估计过程中，并取得了良好的实证结果。然而，其收敛性质尚不清楚。本文试图通过分析贪婪下降框架下采用多种梯度估计器的先验引导零阶算法的收敛性来填补这一空白。我们为先验引导随机无梯度（PRGF）算法提供了收敛保证。此外，为在贪婪下降方法上进一步加速，我们提出了一种融合先验信息的新加速随机搜索（ARS）算法，并给出了收敛分析。最后，我们的理论结果在若干数值基准与对抗攻击实验中得到了验证。
引用
@article{arxiv.2107.10110,
title = {On the Convergence of Prior-Guided Zeroth-Order Optimization Algorithms},
author = {Shuyu Cheng and Guoqiang Wu and Jun Zhu},
journal= {arXiv preprint arXiv:2107.10110},
year = {2021}
}
备注
NeurIPS 2021; code available at https://github.com/csy530216/pg-zoo