中文

正则化 Barzilai-Borwein 方法

数值分析 2025-06-04 v6 数值分析 最优化与控制

摘要

我们基于 \BB 方法提出了一种用于高效求解若干具有挑战性优化问题的新步长,称为正则化 \BB(RBB)步长。我们指出 RBB 步长是 22\ell_{2}^{2} 正则化最小二乘问题的近似解。当正则化项消失时,RBB 步长退化为原始 \BB 步长。RBB 步长包含一类有效步长,例如另一版本的 \BB 步长。相应的 RBB 算法在求解凸二次优化问题时的全局收敛性得到了证明。我们提出了一种自适应生成正则化参数的方案,称为自适应两步参数。一种增强型 RBB 步长被用于更高效地求解二次及一般优化问题。RBB 步长可克服 BB 步长在诸多病态优化问题中的不稳定性。此外,数值实验中 RBB 步长比 BB 步长更具鲁棒性。数值算例生动地展示了所提步长求解若干挑战性优化问题的优势。

关键词

引用

@article{arxiv.2211.06624,
  title  = {Regularized Barzilai-Borwein method},
  author = {Congpei An and Xin Xu},
  journal= {arXiv preprint arXiv:2211.06624},
  year   = {2025}
}

备注

30 pages,7 figures