用于神经架构搜索的图采集函数全局优化
机器学习
2025-05-30 v1 最优化与控制
摘要
图贝叶斯优化(BO)已展现出作为神经架构搜索(NAS)强大且数据高效工具的潜力。现有的大多数图 BO 工作侧重于开发图代理模型,即网络的度量标准和/或用于量化网络间相似性的不同核。然而,由于构建图搜索空间和采集函数的复杂性,采集优化作为图结构上的离散优化任务尚未得到充分研究。本文提出了图输入空间的显式优化公式,包含可达性和最短路径等属性,这些属性随后被用于构建图核和采集函数。我们从理论上证明了所提出的编码是图空间的等价表示,并针对带有节点或边标签的 NAS 领域提供了限制条件。在多个 NAS 基准上的数值结果表明,我们的方法在大多数情况下能高效地找到最优架构,突显了其有效性。
引用
@article{arxiv.2505.23640,
title = {Global optimization of graph acquisition functions for neural architecture search},
author = {Yilin Xie and Shiqiang Zhang and Jixiang Qing and Ruth Misener and Calvin Tsay},
journal= {arXiv preprint arXiv:2505.23640},
year = {2025}
}
备注
19 pages, 6 figures, 3 tables