组合问题中输出空间不变性的神经模型
机器学习
2022-02-08 v1 人工智能
摘要
近来许多神经模型被提出，通过利用已解实例（如数独或图着色(GCP)）隐式学习底层约束来求解组合谜题。所提架构常基于图神经网络(GNN)，其一个缺陷是无法跨变量赋值的输出空间大小进行泛化，例如GCP中的颜色集合或数独的盘面大小。我们称变量的输出空间为“值集”。尽管许多工作已展示GNN跨图大小的泛化能力，但对于如何设计GNN以实现同源问题的价值集不变性尚无研究。例如，仅在9×9数独上训练后学会求解16×16数独。本工作中，我们提出新方法扩展基于GNN的架构以实现值集不变性。具体地，我们的模型构建于近期提出的循环关系网络之上。第一种方法将多类节点分类问题转化为二类节点分类问题，从而利用GNN的图大小不变性。第二种方法直接处理多类，通过添加对应于值集中各值的多个节点，并根据问题初始化将变量节点连接到值节点。我们在三个不同组合问题上的实验评估表明，与通用神经推理器相比，两种模型在我们的新问题上均表现良好。两种模型间存在固有权衡：二值化模型在较小值集上训练时性能更优，而多值模型内存效率更高，在较大值集上训练时性能更优，此时二值化模型无法训练。
引用
@article{arxiv.2202.03229,
title = {Neural Models for Output-Space Invariance in Combinatorial Problems},
author = {Yatin Nandwani and Vidit Jain and Mausam and Parag Singla},
journal= {arXiv preprint arXiv:2202.03229},
year = {2022}
}
备注
Published as a conference paper at ICLR 2022