服务提供商视角的 AutoML：基于 GP-EI 的多设备、多租户模型选择

AutoML 已成为当今大多数领先云服务提供商提供的一项流行服务。在本文中，我们从服务提供商的视角关注 AutoML 问题，其动机来自于以下实际考虑：当 AutoML 服务需要同时使用多个设备为多个用户提供服务时，我们如何才能高效地将这些设备分配给用户？我们关注 GP-EI，这是用于自动模型选择和超参数调优的最流行算法之一，被 Google Vizer 等系统使用。本文的技术贡献是首个用于 GP-EI 的多设备、多租户算法，该算法感知共享同一组计算设备的多个计算设备和多个用户。在理论上，给定 $N$ 个用户和 $M$ 个设备，我们获得了 $O((\text{\bf {MIU}}(T,K) + M)\frac{N^2}{M})$ 的遗憾界，其中 $\text{\bf {MIU}}(T,K)$ 指协方差矩阵 $K$ 截至时刻 $T$ 的最大增量不确定性。在实验上，我们在两个自动模型选择应用上评估了我们的算法，并表明我们的算法显著优于独立为用户提供服务的策略。此外，当有多个计算设备可用时，当用户数量远大于设备数量时，我们实现了接近线性的加速。