基于 GPT-4 的异构图神经架构搜索
人工智能
2023-12-15 v1
摘要
异构图神经架构搜索(HGNAS)是自动设计有效异构图神经网络的强大工具。然而,现有的 HGNAS 算法存在搜索效率低下和结果不稳定的问题。在本文中,我们提出了一种基于 GPT-4 的新型 HGNAS 模型,以提高 HGNAS 的搜索效率和搜索精度。具体而言,我们提出了一种由 GPT-4 增强的异构图神经架构搜索(简称 GHGNAS)。GHGNAS 的基本思想是设计一组提示,引导 GPT-4 执行生成新异构图神经架构的任务。通过使用提示迭代询问 GPT-4,GHGNAS 不断验证所生成 HGNN 的准确性,并利用反馈进一步优化提示。实验结果表明,GHGNAS 能够利用 GPT-4 强大的泛化能力设计新的 HGNN。此外,与之前基于强化学习和可微搜索算法的 HGNAS 模型相比,GHGNAS 运行得更有效且更稳定。
引用
@article{arxiv.2312.08680,
title = {Heterogeneous Graph Neural Architecture Search with GPT-4},
author = {Haoyuan Dong and Yang Gao and Haishuai Wang and Hong Yang and Peng Zhang},
journal= {arXiv preprint arXiv:2312.08680},
year = {2023}
}