通过拟牛顿方法对含噪函数进行无导数优化
最优化与控制
2019-01-09 v2
摘要
本文提出了一种用于最小化含噪函数的有限差分拟牛顿方法。该方法利用了BFGS更新的可扩展性和强大能力,并采用基于Hamming (2012)和Mor\'e与Wild (2011)的噪声估计技术的自适应过程来选择差分区间。这种噪声估计过程和的选择代价不高但并不总是准确的,为了防止失败,该算法包含一个恢复机制,在线搜索过程无法产生可接受点的情况下采取适当行动。本文提出了一种新的收敛性分析,考虑了含噪线搜索过程的影响。还展示了将该方法与函数插值信赖域方法进行比较的数值实验。
引用
@article{arxiv.1803.10173,
title = {Derivative-Free Optimization of Noisy Functions via Quasi-Newton Methods},
author = {Albert S. Berahas and Richard H. Byrd and Jorge Nocedal},
journal= {arXiv preprint arXiv:1803.10173},
year = {2019}
}
备注
26 pages, 9 figures