MTL-KD:基于知识蒸馏的多任务学习用于泛化性神经车辆路径求解器
机器学习
2025-11-05 v4
摘要
神经组合优化(NCO)中的多任务学习(MTL)是一种很有前景的方法,可训练统一模型求解多种车辆路径问题(VRP)变体。然而,现有的基于强化学习(RL)的多任务方法只能在小规模问题上训练轻量解码器模型,在求解大规模问题时泛化能力有限。为克服这一局限性,本文提出了一种由知识蒸馏驱动的新颖多任务学习方法(MTL-KD),该方法能够高效训练具有强泛化能力的重量级解码器模型。所提出的 MTL-KD 方法将策略知识从多个不同的基于 RL 的单任务模型迁移到单一重量级解码器模型,实现了无标签训练,并有效提升了模型在多样任务上的泛化能力。此外,我们引入了一种称为随机重排重构(R3C)的灵活推理策略,该策略专门适应多样的 VRP 任务,并进一步提升了多任务模型的性能。在多达 1000 个节点的 6 个已见和 10 个未见的 VRP 变体上的实验结果表明,我们提出的方法在均匀和真实世界基准上均持续取得卓越性能,展示了鲁棒的泛化能力。
引用
@article{arxiv.2506.02935,
title = {MTL-KD: Multi-Task Learning Via Knowledge Distillation for Generalizable Neural Vehicle Routing Solver},
author = {Yuepeng Zheng and Fu Luo and Zhenkun Wang and Yaoxin Wu and Yu Zhou},
journal= {arXiv preprint arXiv:2506.02935},
year = {2025}
}
备注
Accepted at NeurIPS 2025