作为混合整数线性规划中替代模型的ReLU网络
最优化与控制
2022-01-10 v3 机器学习
摘要
我们考虑将分段线性深度神经网络（ReLU网络）作为替代模型嵌入混合整数线性规划（MILP）问题中。近期许多作者应用ReLU网络的MILP表述，在输入边界约束下探测各种模型性质。该表述通过为每个ReLU算子引入一个二元变量并应用big-M方法得到。表述的效率取决于big-M值所定义边界的紧致程度。当ReLU网络嵌入更大的优化问题时，可利用输出边界的存在进行边界紧致化。为此，我们设计并研究了几种同时考虑输入与输出边界的边界紧致化过程。数值结果表明，边界紧致化可大幅减少求解时间，且小规模ReLU网络适合作为混合整数线性规划中的替代模型。
引用
@article{arxiv.1907.03140,
title = {ReLU Networks as Surrogate Models in Mixed-Integer Linear Programs},
author = {Bjarne Grimstad and Henrik Andersson},
journal= {arXiv preprint arXiv:1907.03140},
year = {2022}
}