关于在对数变换目标上训练的高斯过程期望改进闭式表达式的推导
机器学习
2024-11-28 v1 人工智能
机器学习
摘要
期望改进（Expected Improvement，简称EI） arguably是贝叶斯优化中最广泛使用的数据获取函数。然而，由于其对数值精度的敏感性，提升EI性能往往具有挑战性。Hutter等人（2009年）通过在对数变换目标函数上训练高斯过程来解决这一问题，报告称该技巧可以提高GP的预测精度，从而显著提升性能。尽管Hutter等人（2009年）提供了其EI的闭式表达式，但其中间推导过程尚未公开。本文给出该命题的友好推导。
引用
@article{arxiv.2411.18095,
title = {Derivation of Closed Form of Expected Improvement for Gaussian Process Trained on Log-Transformed Objective},
author = {Shuhei Watanabe},
journal= {arXiv preprint arXiv:2411.18095},
year = {2024}
}