中文

NodeNAS:面向分布外泛化的节点特定图神经架构搜索

机器学习 2025-03-07 v2 社会与信息网络

摘要

图神经架构搜索(GraphNAS)已展现出缓解图神经网络(GNN)因分布偏移导致性能下降的优势。近期的方法在定制架构中引入权重共享,端到端地为每个图生成独特的 GNN 架构。然而,现有的 GraphNAS 方法未考虑不同图之间的分布模式,且严重依赖大量训练数据。在训练图稀疏或仅有单个训练图的情况下,这些方法难以发现图与架构之间的最优映射,无法泛化到分布外(OOD)数据。在本文中,我们提出了节点特定图神经架构搜索(NodeNAS),旨在通过在有限数据集下解耦节点拓扑与图分布,为不同节点定制不同的聚合方法。我们进一步提出基于自适应聚合注意力的多维 NodeNAS 方法(MNNAS),该方法学习具有良好泛化能力的节点特定架构定制器。具体而言,我们扩展了搜索空间的垂直深度,支持跨多个维度同时进行节点特定的架构定制。此外,我们对不同同配性下节点度的幂律分布进行建模,编码结构不变信息以指导每个维度上的架构定制。跨监督和无监督任务的大量实验表明,MNNAS 超越了 SOTA 算法并实现了出色的 OOD 泛化。

关键词

引用

@article{arxiv.2503.02448,
  title  = {NodeNAS: Node-Specific Graph Neural Architecture Search for Out-of-Distribution Generalization},
  author = {Qiyi Wang and Yinning Shao and Yunlong Ma and Min Liu},
  journal= {arXiv preprint arXiv:2503.02448},
  year   = {2025}
}

备注

Accepted by DASFAA2025