用于神经架构搜索的多条件图扩散
机器学习
2024-03-25 v2 计算机视觉与模式识别
摘要
神经架构搜索通常通过探索庞大且复杂的架构搜索空间来自动设计神经网络架构。为推进架构搜索，我们提出了一种基于图扩散的 NAS 方法，该方法利用离散条件图扩散过程生成高性能神经网络架构。随后，我们提出了一种应用于图扩散网络的多条件无分类器引导方法，以联合施加高准确率和低硬件延迟等约束。与相关工作不同，我们的方法完全是可微的，且仅需一次模型训练。在我们的评估中，我们在六个标准基准测试上展示了有希望的结果，以快速速度（即每个架构少于 0.2 秒）生成了新颖且独特的架构。此外，我们通过在 ImageNet 数据集上的实验证明了方法的通用性和效率。
引用
@article{arxiv.2403.06020,
title = {Multi-conditioned Graph Diffusion for Neural Architecture Search},
author = {Rohan Asthana and Joschua Conrad and Youssef Dawoud and Maurits Ortmanns and Vasileios Belagiannis},
journal= {arXiv preprint arXiv:2403.06020},
year = {2024}
}
备注
Accepted at Transactions on Machine Learning Research (TMLR)