中文

注意力机制填补泛化空白:路由问题中的 generalization 研究

机器学习 2022-07-18 v1

摘要

机器学习(ML)方法已成为解决车辆路由问题的有用工具,无论是与流行启发式方法结合还是作为独立模型。然而,当前方法在处理不同规模或不同分布的问题时泛化能力较差。因此,车辆路由中的机器学习经历了一个扩张阶段,针对特定问题实例不断创造新方法,而这些方法在更大规模问题上变得不可行。本文旨在通过理解和改进现有模型(即 Kool 等人提出的注意力模型)来推动该领域的整合。我们确定了 VRP 泛化的两类差异。第一类基于问题本身固有的差异,第二类涉及限制模型泛化能力的架构弱点。我们的贡献有三方面:首先,我们通过基于 alpha-entmax 激活的 Sparse Dynamic Attention 调整 Kool 等人方法及其损失函数,以解决模型差异。然后,我们通过使用混合实例训练方法来解决固有差异,该方法已在某些场景下被证明优于单一实例训练。最后,我们引入了一个推理级数据增强框架,通过利用模型对旋转和缩放变化缺乏不变性来提升性能。

关键词

引用

@article{arxiv.2207.07212,
  title  = {Attention, Filling in The Gaps for Generalization in Routing Problems},
  author = {Ahmad Bdeir and Jonas K. Falkner and Lars Schmidt-Thieme},
  journal= {arXiv preprint arXiv:2207.07212},
  year   = {2022}
}

备注

Accepted at ECML-PKDD 2022