无需训练:图神经网络的线性神经架构搜索
机器学习
2023-06-19 v3 人工智能
摘要
针对图神经网络(GNN)的神经架构搜索(称为 NAS-GNNs)相比人工设计的 GNN 架构取得了显著性能。然而,这些方法继承了传统 NAS 方法的缺陷,如高计算成本与优化困难。更重要的是,以往的 NAS 方法忽视了 GNN 的独特性,即 GNN 无需训练即具备表达能力。利用随机初始化的权重,我们便可通过稀疏编码目标寻求最优架构参数,并推导出一种新的 NAS-GNNs 方法,即神经架构编码(NAC)。因此,我们的 NAC 在 GNN 上采用无更新策略,并能在线性时间内高效计算。在多个 GNN 基准数据集上的实证评估表明,我们的方法达到了最先进的性能,比强基线快至多 且准确率高 。
引用
@article{arxiv.2305.14065,
title = {Do Not Train It: A Linear Neural Architecture Search of Graph Neural Networks},
author = {Peng Xu and Lin Zhang and Xuanzhou Liu and Jiaqi Sun and Yue Zhao and Haiqin Yang and Bei Yu},
journal= {arXiv preprint arXiv:2305.14065},
year = {2023}
}