针对噪声等式约束优化的信任域算法
最优化与控制
2024-11-06 v1 机器学习
摘要
本文引入了一种修改版Byrd-Omojokun (BO)信任域算法，以应对噪声函数和梯度评估所带来的挑战。原始BO方法旨在解决等式约束问题，并构成了通用大规模约束优化中某些内点方法的基础。BO方法的一个关键优势是其在处理秩不足约束雅可比矩阵的问题方面具有鲁棒性。本文中提出的算法引入了新的接受步骤和更新信任域的准则，利用对问题噪声估计。本文中呈现的分析给出了在噪声水平下，迭代收敛于问题稳态点区域的条件。这一分析比线搜索方法更复杂，因为信任域携带了（噪声）来自以前迭代的信息。数值测试说明了该算法的实际性能。
引用
@article{arxiv.2411.02665,
title = {A Trust-Region Algorithm for Noisy Equality Constrained Optimization},
author = {Shigeng Sun and Jorge Nocedal},
journal= {arXiv preprint arXiv:2411.02665},
year = {2024}
}