ReMU：用于基于模型的无导数优化的区域极小更新
最优化与控制
2025-04-07 v1
摘要
无导数优化（DFO）问题是指导数信息不可用或极难获取的优化问题。基于模型的 DFO 求解器已广泛应用于科学计算。Powell 的 NEWUOA（2004）和 Wild 的 POUNDerS（2014）探索了极小范数 Hessian（MNH）模型在 DFO 中的数值能力，并推动了关于用更少数据构建更好模型以实现更快数值收敛的公开讨论。又经过十年，我们提出了区域极小更新（ReMU）模型，并将先前的模型扩展到更广泛的类别。本文展示了 ReMU 模型背后的动机、计算细节、在特定极点和 ReMU 权重系数区域重心的理论和数值结果，以及相关的 KKT 矩阵误差和距离。提出了新的度量标准，如截断牛顿步误差，以在数值上理解新模型的性质。还提出了一种基于迭代调整 ReMU 模型类型的新算法策略，并通过在线方式结合和切换重心模型与经典最小 Frobenius 范数模型，展示了其数值优势。
引用
@article{arxiv.2504.03606,
title = {ReMU: Regional Minimal Updating for Model-Based Derivative-Free Optimization},
author = {Pengcheng Xie and Stefan M. Wild},
journal= {arXiv preprint arXiv:2504.03606},
year = {2025}
}
备注
25 pages