中文

基于解耦自监督的无监督图神经架构搜索

机器学习 2024-03-11 v1 人工智能

摘要

现有的图神经架构搜索(GNAS)方法在搜索过程中严重依赖监督标签,无法处理普遍存在的缺乏监督的场景。本文研究了无监督图神经架构搜索问题,这在文献中尚未被探索。关键问题在于发现驱动图数据形成的潜在图因子,以及这些因子与最优神经架构之间的潜在关系。鉴于潜在图因子与架构因图的本质和神经架构搜索过程的复杂性而高度纠缠,处理该问题具有挑战性。为应对这一挑战,我们提出了一种新颖的解耦自监督图神经架构搜索(DSGAS)模型,该模型能够以自监督方式基于无标签图数据发现捕捉各种潜在图因子的最优架构。具体而言,我们首先设计了一个解耦图超网络,能够整合多种具有因子级解耦的架构并进行同时优化。然后,我们通过提出的联合架构 - 图解耦自监督训练来估计不同因子下架构的性能。最后,我们提出了一种带有架构增强的对比搜索方法,以发现具有因子特定专长的架构。在 11 个真实世界数据集上的大量实验表明,所提出的模型能够在无监督模式下相对于多种基线方法实现最先进的性能。

关键词

引用

@article{arxiv.2403.05064,
  title  = {Unsupervised Graph Neural Architecture Search with Disentangled Self-supervision},
  author = {Zeyang Zhang and Xin Wang and Ziwei Zhang and Guangyao Shen and Shiqi Shen and Wenwu Zhu},
  journal= {arXiv preprint arXiv:2403.05064},
  year   = {2024}
}

备注

NeurIPS'23