一种协同大云模型与小边缘模型的边缘-云协作生成式AI服务提供框架

生成式人工智能通过内容创作为用户提供各种服务，被认为是未来网络中最重要的组成部分之一。然而，训练和部署大人工智能模型带来了巨大的计算和通信开销。由于需要高性能计算基础设施以及云服务远距离访问中的可靠性、保密性和时效性问题，这对集中式方法构成了关键挑战。因此，迫切需要将服务去中心化，部分将其从云端移至边缘，并建立原生的生成式AI服务，以实现私密、及时和个性化的体验。在本文中，我们提出了一种全新的自底向上的、协同大云模型与小边缘模型的大AI模型架构，并设计了一个分布式训练框架和一个面向任务的部署方案，用于高效提供原生生成式AI服务。所提出的框架能够促进协作智能、增强适应性、汇聚边缘知识并减轻边-云负担。通过一个图像生成用例展示了所提框架的有效性。最后，我们概述了基础研究方向，以充分挖掘边缘与云在原生生成式AI和大AI模型应用中的协作潜力。