利用蒙特卡洛树搜索学习黑盒优化的搜索空间划分
机器学习
2022-03-15 v2 人工智能
机器人学
最优化与控制
机器学习
摘要
高维黑盒优化应用广泛，但仍是一个具有挑战性的问题。给定一组样本 ，构建全局模型（如贝叶斯优化（BO））在高维搜索空间中受维数灾难之苦，而贪婪搜索可能导致次优解。通过递归地将搜索空间划分为具有高/低函数值的区域，近期工作如 LaNAS 在神经架构搜索（NAS）中表现出良好性能，从经验上降低了样本复杂度。本文中，我们提出 LA-MCTS，将 LaNAS 扩展到其他领域。与以往方法不同，LA-MCTS 以在线方式利用少量样本及其函数值学习搜索空间的划分。LaNAS 使用线性划分并在每个区域内均匀采样，而我们的 LA-MCTS 采用非线性决策边界并学习局部模型以挑选优良候选。若非线性划分函数和局部模型与真实黑盒函数拟合良好，则可用远少样本得到良好划分与候选。LA-MCTS 通过使用现有黑盒优化器（如 BO、TuRBO）作为局部模型而作为一种元算法（meta-algorithm），在通用黑盒优化和强化学习基准上取得强劲性能，尤其对于高维问题。
引用
@article{arxiv.2007.00708,
title = {Learning Search Space Partition for Black-box Optimization using Monte Carlo Tree Search},
author = {Linnan Wang and Rodrigo Fonseca and Yuandong Tian},
journal= {arXiv preprint arXiv:2007.00708},
year = {2022}
}