面向生成式人工智能的消息代理:综述、挑战与机遇
分布式、并行与集群计算
2024-02-22 v2 人工智能
机器学习
网络与互联网体系结构
摘要
在当今数字世界中,生成式人工智能(GenAI),如大语言模型(LLMs),正变得越来越普遍,并延伸至各类应用。这种采用热潮显著增加了对以数据为中心的 GenAI 模型的需求,凸显出对稳健数据通信基础设施的必要性。消息代理作为各种系统组件间数据传输的关键通道,处于这一需求的核心位置。本综述旨在深入分析传统与现代消息代理,并对主流平台进行比较研究。我们的研究考虑了众多标准,包括但不限于开源可用性、集成监控工具、消息优先级机制、并行处理能力、可靠性、分布与集群功能、认证流程、数据持久化策略、容错性以及可扩展性。此外,我们探讨了每种消息代理在设计与运行上可能施加的内在约束,认识到这些限制对于理解其实际适用性至关重要。最后,本研究考察了针对 GenAI 场景的消息代理机制增强,强调了开发通用消息代理框架的紧迫性。这样的框架应具备快速适配能力,以应对可预见未来 GenAI 动态且不断增长的需求。通过这种双管齐下的方法,我们旨在提供一个基础性纲要,为 GenAI 数据通信领域的未来创新与基础设施进步提供指引。
引用
@article{arxiv.2312.14647,
title = {Towards Message Brokers for Generative AI: Survey, Challenges, and Opportunities},
author = {Alaa Saleh and Roberto Morabito and Sasu Tarkoma and Susanna Pirttikangas and Lauri Lovén},
journal= {arXiv preprint arXiv:2312.14647},
year = {2024}
}
备注
20 pages, 181 references, 7 figures, 5 tables