基于随机傅里叶展开的代价高昂且含噪声测量的在线优化
机器学习
2016-09-30 v3 最优化与控制
机器学习
摘要
本文分析了 DONE，一种基于代价高昂且有噪声的测量迭代最小化未知函数的在线优化算法。该算法以随机傅里叶展开 (RFE) 的形式维护未知函数的代理模型。每当有新测量可用时，代理模型便更新，然后用于确定下一个测量点。该算法可与贝叶斯优化算法相比，但其每次迭代的计算复杂度不依赖于测量次数。我们推导了若干理论结果，以深入见解应如何选择算法的超参数。将该算法与贝叶斯优化算法在基准问题及三个应用上进行比较，即光学相干断层扫描、光学波束成形网络调谐和机械臂控制。发现 DONE 算法在所讨论问题中比贝叶斯优化显著更快，同时达到相似或更好的性能。
引用
@article{arxiv.1603.09620,
title = {Online Optimization with Costly and Noisy Measurements using Random Fourier Expansions},
author = {Laurens Bliek and Hans R. G. W. Verstraete and Michel Verhaegen and Sander Wahls},
journal= {arXiv preprint arXiv:1603.09620},
year = {2016}
}
备注
15 pages, 4 figures