从模型架构角度提升神经网络车辆路径问题求解器的泛化能力
机器学习
2025-03-19 v3 人工智能
摘要
神经网络模型在解决车辆路径问题（VRP）方面取得了令人期待的结果，但往往在泛化性方面不足。近期尝试提高模型泛化能力的做法往往会增加不必要的训练成本，或无法直接应用于解决不同VRP变体的其他模型。在本研究中，我们从模型架构的角度提出了一种新颖视角。具体我们提出了即插即用的基于熵的缩放因子（ESF）和基于分布的解码器（DS decoder），分别用于增强问题规模和分布的泛化能力。ESF调整模型在解决规模各异的VRP时对训练期间熟悉的注意力权重模式的关注程度。DS解码器通过多个辅助轻型解码器显式建模多种训练分布模式，扩展了模型的表示空间，以覆盖更广泛的分布场景。我们在人工合成数据集和广为接受的真实世界基准数据集上进行了大量实验，并与七个基线模型进行了比较。结果表明，使用ESF和DS解码器可获得更具泛化性的模型，并展示了其解决不同VRP变体（即旅行商问题和有容量限制的VRP）的适用性。值得注意的是，我们提出的通用组件所需的计算资源极少，可轻松集成到常规的泛化策略中，以进一步提升模型的泛化能力。
引用
@article{arxiv.2406.06652,
title = {Improving Generalization of Neural Vehicle Routing Problem Solvers Through the Lens of Model Architecture},
author = {Yubin Xiao and Di Wang and Xuan Wu and Yuesong Wu and Boyang Li and Wei Du and Liupu Wang and You Zhou},
journal= {arXiv preprint arXiv:2406.06652},
year = {2025}
}
备注
This work has been accepted by Neural Networks