注意力机制填补泛化空白:路由问题中的 generalization 研究
机器学习
2022-07-18 v1
摘要
机器学习(ML)方法已成为解决车辆路由问题的有用工具,无论是与流行启发式方法结合还是作为独立模型。然而,当前方法在处理不同规模或不同分布的问题时泛化能力较差。因此,车辆路由中的机器学习经历了一个扩张阶段,针对特定问题实例不断创造新方法,而这些方法在更大规模问题上变得不可行。本文旨在通过理解和改进现有模型(即 Kool 等人提出的注意力模型)来推动该领域的整合。我们确定了 VRP 泛化的两类差异。第一类基于问题本身固有的差异,第二类涉及限制模型泛化能力的架构弱点。我们的贡献有三方面:首先,我们通过基于 alpha-entmax 激活的 Sparse Dynamic Attention 调整 Kool 等人方法及其损失函数,以解决模型差异。然后,我们通过使用混合实例训练方法来解决固有差异,该方法已在某些场景下被证明优于单一实例训练。最后,我们引入了一个推理级数据增强框架,通过利用模型对旋转和缩放变化缺乏不变性来提升性能。
引用
@article{arxiv.2207.07212,
title = {Attention, Filling in The Gaps for Generalization in Routing Problems},
author = {Ahmad Bdeir and Jonas K. Falkner and Lars Schmidt-Thieme},
journal= {arXiv preprint arXiv:2207.07212},
year = {2022}
}
备注
Accepted at ECML-PKDD 2022