进化策略收敛于有限差分
神经与进化计算
2020-01-07 v1 机器学习
最优化与控制
机器学习
摘要
自 Salimans 等人于 2017 年将进化策略（ES）作为强化学习的一种工具提出以来，人们一直有兴趣确定进化策略梯度与一类相似算法——有限差分（FD）的梯度之间的确切关系。（Zhang 等人 2017，Lehman 等人 2018）已有若干相关研究，探讨了 ES 与 FD 在形式动机上的差异（Lehman 等人 2018），以及它们在机器学习标准基准问题 MNIST 分类问题上的差异（Zhang 等人 2017）。本文证明，虽然两者梯度不同，但随着待优化向量维度的增加，它们会收敛。
引用
@article{arxiv.2001.01684,
title = {Evolution Strategies Converges to Finite Differences},
author = {John C. Raisbeck and Matthew Allen and Ralph Weissleder and Hyungsoon Im and Hakho Lee},
journal= {arXiv preprint arXiv:2001.01684},
year = {2020}
}
备注
6 Pages