高效解码器规模化策略用于神经路由求解器
机器学习
2026-03-03 v1
摘要
基于构造的神经路由求解器,通常由编码器和解码器组成,已成为解决车辆路径问题的有前景的方法。虽然近期研究表明,将参数从编码器转移到解码器可提升性能,但大多数工作将解码器规模限制在1-3百万参数,仍未充分探讨规模化的影响。为填补这一空白,我们系统性地比较了两种不同的规模化策略:深度规模化与宽度规模化。我们将这些策略综合,构建了12种模型配置,参数范围从1百万至约1.5亿,并广泛评估了其在三个关键维度上的规模化行为:参数效率、数据效率和计算效率。我们的实验结果表明,参数数量足以准确预测模型性能,突显了模型深度(层数)和宽度(嵌入维度)的关键且独特作用。重要的是,我们证明了深度规模化的性能提升优于宽度规模化。基于这些发现,我们提供了一套用于高效分配参数和计算资源以提升模型性能的设计原则,并通过实验进行了验证。
引用
@article{arxiv.2603.00430,
title = {Efficient Decoder Scaling Strategy for Neural Routing Solvers},
author = {Qing Luo and Fu Luo and Ke Li and Zhenkun Wang},
journal= {arXiv preprint arXiv:2603.00430},
year = {2026}
}