参数估计的新型优化技术
最优化与控制
2024-07-08 v1 定量方法
摘要
本文提出一种新型优化算法，适用于求解参数估计问题。我们称新方法为仿射缩放的三次正规化牛顿法（CRNAS）。与依赖目标函数梯度的所谓一阶方法不同，我们的方法利用目标函数的 Hessian，从而能够聚焦于满足二阶最优性条件的点，而非一阶方法仅收敛到临界点。这一特征在参数估计问题中尤为重要，因为目标函数常为非凸型，导致存在众多临界点，难以识别全局最小值。生物系统数学模型参数估计的一个重要特征是参数受到物理约束或先验知识的限制。我们采用仿射缩放方法处理广泛的约束条件。我们证明，CRNAS 在 O(ε^{-3/2}) 次迭代内识别出满足 ε-近似二阶最优性条件的点。最后，我们将 CRNAS 与 MATLAB 的优化求解器 fmincon 在三个不同的测试问题上进行比较。这三个测试问题都包含混合异构人群，CRNAS 特别适合此类问题。我们的Numerical simulation 显示，CRNAS 在大多数实例中在准确性和计算成本方面表现出竞争力，甚至优于 fmincon。
引用
@article{arxiv.2407.04235,
title = {Novel Optimization Techniques for Parameter Estimation},
author = {Chenyu Wu and Nuozhou Wang and Casey Garner and Kevin Leder and Shuzhong Zhang},
journal= {arXiv preprint arXiv:2407.04235},
year = {2024}
}