面向贝叶斯优化的实用迁移学习
机器学习
2022-10-25 v4 人工智能
摘要
当机器学习算法的超参数优化针对多个数据集重复进行时，可将知识迁移到新数据集上的优化运行中。我们开发了一种新的无超参数的贝叶斯优化集成模型，它是两种现有贝叶斯优化迁移学习扩展的推广，并建立了相对于朴素贝叶斯优化的最坏情况界。利用大量超参数优化基准问题，我们证明我们的贡献相比标准基于高斯过程的贝叶斯优化大幅减少了优化时间，并超越了当前迁移超参数优化的 SOTA。
引用
@article{arxiv.1802.02219,
title = {Practical Transfer Learning for Bayesian Optimization},
author = {Matthias Feurer and Benjamin Letham and Frank Hutter and Eytan Bakshy},
journal= {arXiv preprint arXiv:1802.02219},
year = {2022}
}
备注
This version fixes a minor error in the equation in Section 3.2 of V3