中文

AutoHEnsGNN:KDD Cup 2020 AutoGraph挑战赛获胜方案

机器学习 2021-11-29 v1 人工智能

摘要

图神经网络(GNNs)已变得越来越流行,并在许多基于图的应用中取得了令人印象深刻的结果。然而,设计有效的架构需要大量的手工工作和领域知识,并且GNN模型的结果在不同的训练设置下具有高方差,这限制了现有GNN模型的应用。在本文中,我们提出了AutoHEnsGNN,一个无需任何人工干预即可为图任务构建有效且鲁棒模型的框架。AutoHEnsGNN在KDD Cup 2020的AutoGraph挑战赛中获得第一名,并在最终阶段在五个真实数据集上取得了最佳排名分数。给定一个任务,AutoHEnsGNN首先应用快速代理评估来自动选择一组有潜力的GNN模型。然后,它构建一个分层集成框架:1)我们提出图自集成(GSE),它可以减少权重初始化的方差,并有效利用局部和全局邻域的信息;2)基于GSE,使用不同类型GNN模型的加权集成来有效学习更具判别性的节点表示。为了高效搜索架构和集成权重,我们提出了AutoHEnsGNNGradient_{\text{Gradient}},它将架构和集成权重视为架构参数,并使用基于梯度的架构搜索来获得最优配置,以及AutoHEnsGNNAdaptive_{\text{Adaptive}},它可以根据模型准确率自适应地调整集成权重。在节点分类、图分类、边预测和KDD Cup挑战赛上的大量实验证明了AutoHEnsGNN的有效性和通用性。

关键词

引用

@article{arxiv.2111.12952,
  title  = {AutoHEnsGNN: Winning Solution to AutoGraph Challenge for KDD Cup 2020},
  author = {Jin Xu and Mingjian Chen and Jianqiang Huang and Xingyuan Tang and Ke Hu and Jian Li and Jia Cheng and Jun Lei},
  journal= {arXiv preprint arXiv:2111.12952},
  year   = {2021}
}

备注

ICDE 2022