一种用于列生成的深度强化学习框架
最优化与控制
2023-01-16 v3 人工智能
离散数学
机器学习
摘要
列生成(CG)是一种用于求解具有极大量变量(列)的线性规划(LP)的迭代算法。CG是处理大规模整数线性规划的主力工具,这类规划依赖CG在分支定价算法中求解LP松弛。两个典型应用是下料问题(CSP)和带时间窗的车辆路径问题(VRPTW)。例如在VRPTW中,每个二元变量表示包含或排除一条路径的决策,路径数量呈指数级增长;CG逐步扩充所用列的子集,最终收敛到最优解。我们提出RLCG,即首个用于CG的强化学习(RL)方法。与典型的基于每次迭代局部信息短视地选择列的规则不同,我们将CG视为序贯决策问题:给定迭代中选择的列会影响后续列的选择。这一视角适用于使用图神经网络(GNN)表示所关注LP中变量-约束结构的深度强化学习方法。我们使用公开的BPPLIB(CSP基准)和Solomon(VRPTW基准)进行了大量实验。与常用贪心策略相比,RLCG收敛更快,CG迭代次数平均减少:CSP减少22.4%,VRPTW减少40.9%。我们的代码见 https://github.com/chichengmessi/reinforcement-learning-for-column-generation.git。
引用
@article{arxiv.2206.02568,
title = {A Deep Reinforcement Learning Framework For Column Generation},
author = {Cheng Chi and Amine Mohamed Aboussalah and Elias B. Khalil and Juyoung Wang and Zoha Sherkat-Masoumi},
journal= {arXiv preprint arXiv:2206.02568},
year = {2023}
}