AI如何分布于计算连续统?引入神经发布/订阅范式
网络与互联网体系结构
2023-09-06 v1
摘要
本文提出神经发布/订阅(neural publish/subscribe)范式,一种在計算连续统的大规模分布式AI系统中编排AI工作流的新方法。传统的集中式代理方法日益难以应对5G系统、连接设备和超可靠应用激增所带来的数据洪流。此外,AI驱动应用的出现,特别是那些利用先进神经网络架构的应用,需要在计算连续统内编排和调度AI进程的新方法。对此,神经发布/订阅范式旨在通过高效管理训练、微调和推理工作流,改善分布式计算,促进动态资源分配,并增强计算连续统中的系统弹性来克服这些局限。我们通过各种设计模式、用例探讨这一新范式,并讨论供进一步探索的开放研究问题。
引用
@article{arxiv.2309.02058,
title = {How Can AI be Distributed in the Computing Continuum? Introducing the Neural Pub/Sub Paradigm},
author = {Lauri Lovén and Roberto Morabito and Abhishek Kumar and Susanna Pirttikangas and Jukka Riekki and Sasu Tarkoma},
journal= {arXiv preprint arXiv:2309.02058},
year = {2023}
}