Gaia：面向三维计算连续体中无服务器 AI 的混合硬件加速
分布式、并行与集群计算
2025-11-19 v1
摘要
无服务器计算提供弹性伸缩和按使用付费的执行模式，使其非常适合 AI 工作负载。由于这些工作负载在诸如边缘-云-太空三维连续体等异构环境中运行，它们通常需要密集的并行计算，而 GPU 执行此类计算的效率远高于 CPU。然而，当前平台难以有效管理硬件加速，因为静态的用户-设备分配无法确保在变化的负载或放置下满足 SLO，而一次性动态选择往往导致次优或成本效益低的配置。为解决这些问题，我们提出了 Gaia，一种 GPU 即服务模型和架构，将硬件加速作为平台关注点。Gaia 结合了 (i) 一个轻量级的执行模式标识符，它在部署时检查函数代码以发出四种执行模式之一，以及 (ii) 一个动态函数运行时，它持续重新评估用户定义的 SLO，以在 CPU 和 GPU 后端之间进行升级或降级。我们的评估表明，它能无缝地为工作负载选择最佳的硬件加速，将端到端延迟降低多达 95%。这些结果表明，Gaia 能够在异构环境中为无服务器 AI 实现 SLO 感知、成本效益高的加速。
引用
@article{arxiv.2511.13728,
title = {Gaia: Hybrid Hardware Acceleration for Serverless AI in the 3D Compute Continuum},
author = {Maximilian Reisecker and Cynthia Marcelino and Thomas Pusztai and Stefan Nastic},
journal= {arXiv preprint arXiv:2511.13728},
year = {2025}
}
备注
In IEEE ACM 12th International Conference on Big Data Computing, Applications and Technologies (BDCAT 25), 2025, Nantes, France