从学习优化到学习优化算法
机器学习
2025-09-19 v3 最优化与控制
摘要
为设计超出训练环境可用的学习优化算法,我们识别出经典算法所遵循的关键原则,而这些原则至今未被用于学习优化(L2O)。遵循这些原则,我们提供了一个通用的设计流程,考虑数据、架构和学习策略,从而实现了经典优化与 L2O 之间的协同,形成一种学习优化算法的哲学。作为结果,我们的学习型算法在训练分布之外的众多情境下表现出色。我们通过设计一个新的学习增强 BFGS 算法并提供数值实验,证明其在测试时能够适应多种设置。
引用
@article{arxiv.2405.18222,
title = {From Learning to Optimize to Learning Optimization Algorithms},
author = {Camille Castera and Peter Ochs},
journal= {arXiv preprint arXiv:2405.18222},
year = {2025}
}