曲率对齐单纯形梯度：用于数值微分的原理性样本集构造
数值分析
2023-10-20 v1 数值分析
最优化与控制
摘要
单纯形梯度因其灵活性成为一种流行的数值微分方法，但缺乏一种原理性的方法来构造样本集，特别是函数求值的位置。此类求值（尤其来自真实世界系统）常含噪声且获取代价高昂，使得仔细选择每次求值以降低代价并提高精度至关重要。本文引入曲率对齐单纯形梯度（CASG），其在均方误差目标下可证明地选出最优样本集。由于 CASG 需要实践中常不可得的依赖函数的信息，我们额外引入一个利用实际应用常具备的函数求值历史的框架。我们聚焦于敏感性分析与无导数优化应用的数值结果表明，我们的方法显著优于或匹配基准梯度估计器前向差分（FD）的性能，而 FD 被给予了实践中不可得的精确函数依赖信息。此外，我们的方法与需要两倍函数求值次数的中心差分（CD）性能相当。
引用
@article{arxiv.2310.12712,
title = {Curvature Aligned Simplex Gradient: Principled Sample Set Construction For Numerical Differentiation},
author = {Daniel Lengyel and Panos Parpas and Nikolas Kantas and Nicholas R. Jennings},
journal= {arXiv preprint arXiv:2310.12712},
year = {2023}
}
备注
31 Pages, 5 Figures, Submitted to IMA Numerical Analysis