ease.ml：面向机器学习工作负载的多租户资源共享

我们介绍了 ease.ml，这是一个我们构建的声明式机器学习服务平台，旨在支持 ETH Zurich 计算机科学系以外的十余个研究小组的机器学习需求。通过 ease.ml，用户可以定义机器学习应用的高层 schema，并通过 Web 界面提交任务。系统会自动处理其余事项，例如模型选择和数据移动。在本文中，我们描述了 ease.ml 的架构，并重点关注由 ease.ml 引入的关于资源分配的全新技术问题。我们提出，作为一个管理着供所有运行机器学习工作负载的用户共享的机器集群的“服务提供商”，什么样的资源分配策略能够最大化所有用户的全局满意度？在这种多租户场景下，资源分配是一个关键且微妙的问题，因为我们必须在效率和公平性之间取得平衡。我们首先将该问题形式化，称之为多租户模型选择，旨在最小化所有运行自动模型选择任务的用户的总遗憾。然后，我们开发了一种结合多臂老虎机与贝叶斯优化的新算法，并证明了在多租户设置下的遗憾界。最后，我们报告了 ease.ml 在合成数据以及我们向用户提供的一项服务（即使用深度神经网络进行图像分类）上的评估结果。我们的实验评估结果表明，与 ease.ml 之前用户使用的两种流行启发式方法相比，我们提出的解决方案在为所有用户实现相同全局质量方面最多可快 9.8 倍。