基于学生t似然的鲁棒贝叶斯优化
机器学习
2017-07-19 v1 人工智能
机器学习
摘要
贝叶斯优化因其在超参数调优中的优异表现而最近引起了自动机器学习社区的关注。BO的特点是样本效率高，能够优化昂贵的黑盒函数。这种效率是通过类似于学习如何学习的方法实现的：代理模型（通常是高斯过程）学习目标函数并执行智能采样。即使在存在噪声的情况下，这种代理模型也可以应用；然而，与大多数回归方法一样，它对异常值非常敏感。这可能导致错误的预测，并且在BO的情况下，导致有偏且低效的探索。在这项工作中，我们提出了一种对异常值鲁棒的GP模型，该模型使用学生t似然来分离异常值并鲁棒地进行贝叶斯优化。我们提供了在人工函数和实际问题中评估所提出方法的数值结果。
引用
@article{arxiv.1707.05729,
title = {Robust Bayesian Optimization with Student-t Likelihood},
author = {Ruben Martinez-Cantin and Michael McCourt and Kevin Tee},
journal= {arXiv preprint arXiv:1707.05729},
year = {2017}
}