面向自主云运营的LLM驱动多智能体框架
软件工程
2025-01-15 v1 人工智能
机器学习
摘要
Cloud Operations (CloudOps) 是一个快速增长的领域，专注于自动化管理和优化云基础设施，这对于组织应对日益复杂的云环境至关重要。MontyCloud Inc. 是 CloudOps 领域的主要公司之一，利用自主机器人来管理云端合规性、安全性和持续运营。为了使平台更易于客户使用和有效，我们利用了 GenAI。为现有的 MontyCloud 系统开发基于 GenAI 的自主 CloudOps 解决方案给我们带来了各种挑战，例如 i) 多样化的数据源；ii) 多个进程的编排；iii) 自动化日常任务的复杂工作流程。为此，我们开发了 MOYA，一个多智能体框架，利用 GenAI 并在自主性与必要的人类控制之间进行平衡。该框架集成了各种内部和外部系统，针对因素进行优化，例如任务编排、安全性和错误缓解，同时通过利用检索增强生成 (RAG) 来产生准确、可靠且相关的见解。我们使用专业人员帮助评估我们的多智能体系统，以及使用自动化检查， demonstrate 了在复杂工作流程中相对于 non-agentic approaches 的提高的准确性、响应性和有效性。
引用
@article{arxiv.2501.08243,
title = {Engineering LLM Powered Multi-agent Framework for Autonomous CloudOps},
author = {Kannan Parthasarathy and Karthik Vaidhyanathan and Rudra Dhar and Venkat Krishnamachari and Basil Muhammed and Adyansh Kakran and Sreemaee Akshathala and Shrikara Arun and Sumant Dubey and Mohan Veerubhotla and Amey Karan},
journal= {arXiv preprint arXiv:2501.08243},
year = {2025}
}
备注
The paper has been accepted as full paper to CAIN 2025 (https://conf.researchr.org/home/cain-2025), co-located with ICSE 2025 (https://conf.researchr.org/home/icse-2025). The paper was submitted to CAIN for review on 9 November 2024