涉及神经网络代理模型的设计与控制问题建模
最优化与控制
2021-11-23 v1 机器学习
摘要
我们考虑涉及由神经网络表示的代理模型的非线性优化问题。我们首先演示如何将神经网络评估直接嵌入到优化模型中，强调这种方法中可能阻碍收敛的困难，然后表征此类模型的稳定性。然后，我们在具有 ReLU 激活的前馈神经网络的具体情况下提出这些问题的两种替代表述：作为混合整数优化问题和作为具有互补约束的数学规划。对于后一种表述，我们证明了该问题在某一点的稳定性对应于嵌入表述的稳定性。这些表述中的每一种都可以用 state-of-the-art 优化方法求解，我们展示了如何为这些方法获得良好的初始可行解。我们在燃烧发动机设计和控制、分类器网络对抗攻击生成以及油井网络最优流确定中出现的三个实际应用上比较了我们的表述。
引用
@article{arxiv.2111.10489,
title = {Modeling Design and Control Problems Involving Neural Network Surrogates},
author = {Dominic Yang and Prasanna Balaprakash and Sven Leyffer},
journal= {arXiv preprint arXiv:2111.10489},
year = {2021}
}
备注
24 Pages, 11 Figures