引入椭圆中心法：一种用于无约束优化的新型一阶方法
最优化与控制
2025-09-25 v2
摘要
本文介绍了椭圆中心法（Method of Ellipcenters, ME）用于无约束最小化。在每次迭代中以两次梯度计算和线搜索代价，我们通过设置下一个迭代点为椭圆的中心来计算下一个点。构建椭圆的思想是模拟目标函数在受限于适当二维仿射空间的水平曲线，这一空间由当前迭代点和两个合适的梯度向量确定。我们为通用的无约束最小化提出该方法，并对目标函数为二次型的情况进行收敛分析。在此情境下，ME以线性收敛，收敛率至少与采用最优步长的梯度法（梯度法）的线性收敛率相同。然而，在我们的实验中，ME的速度远快于采用最优步长的梯度法。此外，ME在与Nesterov加速梯度、Barzilai-Borwein法和共轭梯度等几个成熟算法进行比较时，表现非常竞争。就时间和迭代次数的效率而言，尤其对于病态问题，优势更为明显。这一特征的一个理论原因是ME在二维欧几里得空间中的二次规划中与Newton方法一致，仅用一个步骤即可求解。在我们的Numerical测试中，仅一个迭代即可收敛的现象也被观察到，适用于更大的规模问题。
引用
@article{arxiv.2509.15471,
title = {Introducing the method of ellipcenters, a new first order technique for unconstrained optimization},
author = {Roger Behling and Ramyro Aquines Correa and Eduarda Ferreira Zanatta and Vincent Guigues},
journal= {arXiv preprint arXiv:2509.15471},
year = {2025}
}