中文

Younger:人工智能生成神经网络架构的第一个数据集

机器学习 2024-06-24 v1 人工智能

摘要

设计和优化神经网络架构通常需要大量专业知识,首先是手工设计,然后是手动或自动化的细化。这种依赖性构成了快速创新的重要障碁。鉴于从头自动生成神经网络架构的复杂性,我们引入了 Younger——一个推动这一目标的开创性数据集。该数据集源自来自多个公开模型中心超过 17.4 万个真实世界模型(涵盖 30 多种任务),包含 7,629 个唯一架构,每个架构均以带有详细算子级信息的有向无环图形式表示。该数据集支持两种主要设计范式:全局范式用于从头创建完整架构,局部范式用于进行细致的架构组件细化。通过建立这些能力,Younger 贡献于人工智能生成神经网络架构(AIGNNA)的新前沿。我们的实验探索了 Younger 用于自动化架构生成的潜力和有效性,以及作为基准数据集服务的次要收益,推动了图神经网络的发展。我们公开发布数据集和代码,以降低进入该领域的门槛,并鼓励进一步研究。

关键词

引用

@article{arxiv.2406.15132,
  title  = {Younger: The First Dataset for Artificial Intelligence-Generated Neural Network Architecture},
  author = {Zhengxin Yang and Wanling Gao and Luzhou Peng and Yunyou Huang and Fei Tang and Jianfeng Zhan},
  journal= {arXiv preprint arXiv:2406.15132},
  year   = {2024}
}

备注

31 pages, 29 figures, 11 tables