面向边缘智能系统的自适应 AI 智能体 placement 与迁移
人工智能
2025-08-06 v1
摘要
大型语言模型（如 ChatGPT 与 Claude）的兴起推动了对能够实时处理任务的 AI 智能体的需求。然而，将数据密集型、多模态的边缘工作负载迁移到传统用于智能体部署的云数据中心，会引入显著的延迟。将 AI 智能体部署在边缘可提高效率并降低延迟。然而，边缘环境因资源有限且异构性强而面临挑战。维持移动用户的服务质量（QoS）需要进行智能体迁移，而这在 AI 智能体协调 LLM、任务规划、记忆与外部工具的复杂情况下增加了难度。本文提出了面向动态边缘环境中基于 LLM 的 AI 智能体的首个系统化部署与管理解决方案。我们构想了一种新颖的自适应框架，用于边缘智能系统中的 AI 智能体 placement 与迁移。该方法建模资源约束与延迟/成本，利用蚁群算法和 LLM 优化进行高效决策。它自主安置智能体以优化资源利用与 QoS，并通过仅传递essential state 实现轻量级智能体迁移。该方案在基于 AgentScope 的分布式系统上实现，并在全球分布的边缘服务器上进行验证，显著降低了部署延迟和迁移成本。
引用
@article{arxiv.2508.03345,
title = {Adaptive AI Agent Placement and Migration in Edge Intelligence Systems},
author = {Xingdan Wang and Jiayi He and Zhiqing Tang and Jianxiong Guo and Jiong Lou and Liping Qian and Tian Wang and Weijia Jia},
journal= {arXiv preprint arXiv:2508.03345},
year = {2025}
}