重新思考图神经网络在分支策略中的表示能力
机器学习
2025-01-09 v3 最优化与控制
摘要
图神经网络（GNN）已被广泛用于预测混合整数线性规划（MILP）的性质和启发式方法，从而加速MILP求解器。本文研究了GNN表示强分支（SB）的能力，强分支是分支定界算法中采用的最有效但计算代价高昂的启发式方法。在文献中，消息传递GNN（MP-GNN）作为最简单的GNN结构，常被用作SB的快速近似，而我们发现并非所有MILP的SB都能用MP-GNN表示。我们精确定义了一类“MP可处理”的MILP，对于这类问题，MP-GNN可以准确近似SB分数。特别地，我们建立了一个通用逼近定理：对于MP可处理类上的任何数据分布，总存在一个MP-GNN能够以任意高的精度和任意高的概率逼近SB分数，这为现有使用MP-GNN模仿SB的工作奠定了理论基础。然而，对于不具备MP可处理性的MILP，类似的结果是不可能的，这可以通过两个具有不同SB分数但无法被任何MP-GNN（无论参数数量多少）区分的MILP实例来说明。认识到这一点，我们探索了另一种称为二阶folklore GNN（2-FGNN）的GNN结构，它克服了这一限制，并且前述的通用逼近定理可以使用2-FGNN扩展到整个MILP空间，无论其是否具有MP可处理性。我们进行了一个小规模的数值实验来直接验证我们的理论发现。
引用
@article{arxiv.2402.07099,
title = {Rethinking the Capacity of Graph Neural Networks for Branching Strategy},
author = {Ziang Chen and Jialin Liu and Xiaohan Chen and Xinshang Wang and Wotao Yin},
journal= {arXiv preprint arXiv:2402.07099},
year = {2025}
}