全局优化：一种机器学习方法
最优化与控制
2025-01-03 v1 机器学习
摘要
许多求解全局优化问题的方法通常依赖于对特定数学基元上非线性约束的松弛。这在约束为黑盒、隐式或由更一般基元构成的应用中受到限制。为尝试解决此类局限，Bertsimas 与 Ozturk（2023）提出了 OCTHaGOn，作为一种通过基于超平面的决策树近似非线性约束，并利用这些树构建原问题统一混合整数优化（MIO）近似来求解黑盒全局优化的方法。我们对该方法进行了扩展：（i）除决策树外，使用其他 MIO 可表示的 ML 模型（如梯度提升树、多层感知机与支持向量机）近似原问题；（ii）提出自适应采样流程以获得更精确的基于机器学习约束近似；（iii）利用鲁棒优化考虑 ML 模型依赖样本训练的的不确定性；（iv）借助一类松弛处理最终 MIO 近似的不可行性。随后我们在 81 个全局优化实例中测试了增强框架。我们在大多数实例中展示了解的可行性与最优性的提升。我们亦与 BARON 比较，在 11 个实例中显示出更优的最优性间隙或求解时间。
引用
@article{arxiv.2311.01742,
title = {Global Optimization: A Machine Learning Approach},
author = {Dimitris Bertsimas and Georgios Margaritis},
journal= {arXiv preprint arXiv:2311.01742},
year = {2025}
}
备注
Submitted to the Journal of Global Optimization. 35 pages