组合优化的深度符号优化:通过发现潜在启发式方法加速节点选择
机器学习
2024-07-11 v2
摘要
组合优化 (CO) 是现实应用中最基本的数学模型之一。传统 CO 求解器,如分支限界 (B&B) 求解器,高度依赖专家设计的启发式方法,这些方法可靠但需要大量手动调优。最近的研究利用深度学习 (DL) 模型作为替代方案,以捕获丰富特征模式在 GPU 设备上提高性能。然而,高训练和推理成本以及有限可解释性严重阻碍了 DL 方法在实际应用中的采用。为解决这些挑战,我们提出一种新型深度符号优化学习框架,结合两者优势。具体focus于 B&B 求解器中的节点选择模块——即深度符号优化用于节点选择 (Dso4NS)。通过数据驱动方法,Dso4NS 指导在高维离散符号空间中搜索数学表达式,然后将表现最佳的数学表达式纳入求解器。数据驱动模型捕获输入数据的丰富特征信息并生成符号表达式,而部署在求解器中的表达式 enables 快速推理且可解释性高。实验表明,Dso4NS 在学习高质量表达式方面有效,优于现有方法,在 CPU 机器上表现出色。令人鼓舞的是,所学得的 CPU 基于策略在性能上持续与最新 GPU 基于方法相当。
引用
@article{arxiv.2406.09740,
title = {Deep Symbolic Optimization for Combinatorial Optimization: Accelerating Node Selection by Discovering Potential Heuristics},
author = {Hongyu Liu and Haoyang Liu and Yufei Kuang and Jie Wang and Bin Li},
journal= {arXiv preprint arXiv:2406.09740},
year = {2024}
}