NodeNAS:面向分布外泛化的节点特定图神经架构搜索
机器学习
2025-03-07 v2 社会与信息网络
摘要
图神经架构搜索(GraphNAS)已展现出缓解图神经网络(GNN)因分布偏移导致性能下降的优势。近期的方法在定制架构中引入权重共享,端到端地为每个图生成独特的 GNN 架构。然而,现有的 GraphNAS 方法未考虑不同图之间的分布模式,且严重依赖大量训练数据。在训练图稀疏或仅有单个训练图的情况下,这些方法难以发现图与架构之间的最优映射,无法泛化到分布外(OOD)数据。在本文中,我们提出了节点特定图神经架构搜索(NodeNAS),旨在通过在有限数据集下解耦节点拓扑与图分布,为不同节点定制不同的聚合方法。我们进一步提出基于自适应聚合注意力的多维 NodeNAS 方法(MNNAS),该方法学习具有良好泛化能力的节点特定架构定制器。具体而言,我们扩展了搜索空间的垂直深度,支持跨多个维度同时进行节点特定的架构定制。此外,我们对不同同配性下节点度的幂律分布进行建模,编码结构不变信息以指导每个维度上的架构定制。跨监督和无监督任务的大量实验表明,MNNAS 超越了 SOTA 算法并实现了出色的 OOD 泛化。
引用
@article{arxiv.2503.02448,
title = {NodeNAS: Node-Specific Graph Neural Architecture Search for Out-of-Distribution Generalization},
author = {Qiyi Wang and Yinning Shao and Yunlong Ma and Min Liu},
journal= {arXiv preprint arXiv:2503.02448},
year = {2025}
}
备注
Accepted by DASFAA2025