FastBO：具有自适应保真度识别的快速超参数优化与神经架构搜索

超参数优化 (HPO) 和神经架构搜索 (NAS) 在获得最先进的机器学习模型方面功能强大，其中贝叶斯优化 (BO) 是一种主流方法。将 BO 扩展到多保真度设置已成为一个新兴的研究课题，但面临着为每个超参数配置确定合适保真度以拟合代理模型的挑战。为应对这一挑战，我们提出了一种名为 FastBO 的多保真度 BO 方法，该方法能自适应地为每个配置决定保真度，并高效地提供强大性能。这些优势是基于每个配置的“有效点”和“饱和点”这两个新概念实现的。我们还表明，我们的自适应保真度识别策略提供了一种将任何单保真度方法扩展到多保真度设置的途径，突显了其通用性和适用性。