基于深度图贝叶斯优化的深度神经架构搜索
机器学习
2019-05-16 v1 机器学习
摘要
贝叶斯优化（BO）是一种寻找黑盒函数全局最优解的有效方法。近来 BO 已被应用于神经架构搜索，并展现出优于纯进化策略的性能。所有这些方法都采用高斯过程（GPs）作为代理函数，并以手工设计的相似度度量作为输入。在本工作中，我们提出一种贝叶斯图神经网络作为新的代理，其能自动从深度神经架构中提取特征，并利用这些学到的特征来拟合和刻画黑盒目标及其不确定性。基于这一新代理，我们进而开发了图贝叶斯优化框架，以应对深度神经架构搜索这一挑战性任务。实验结果表明，我们的方法在基准任务上显著优于对比方法。
引用
@article{arxiv.1905.06159,
title = {Deep Neural Architecture Search with Deep Graph Bayesian Optimization},
author = {Lizheng Ma and Jiaxu Cui and Bo Yang},
journal= {arXiv preprint arXiv:1905.06159},
year = {2019}
}