基于图注意力网络的边缘 AI 与微服务的混合编排——图自模仿学习
网络与互联网体系结构
2026-03-10 v1 人工智能
摘要
现代边缘 AI 应用越来越依赖集成 AI 服务和常规微服务的微服务架构,这些服务构成具有严格延迟要求的复杂请求链。有效地编排这些异构服务对于确保低延迟性能至关重要,但由于其多样化的资源需求和在资源受限的边缘环境中的强烈操作相互依赖,仍然具有挑战性。特别是,服务之间的频繁交互紧密地耦合了部署和路由决策,而现有方法却以孤立的方式对其进行优化,导致系统性能根本不足。在本文中,我们提出 SIL-GPO,一个强化学习框架,用于优化边缘 AI 微服务系统的混合编排。SIL-GPO 将编排问题形式化为序列决策任务,并利用图注意力网络对服务拓扑和路由依赖性进行编码,以纳入代理状态表示。此外,SIL-GPO 将自模仿学习策略集成到近端策略优化中,使代理能够优先排序和重用高奖励轨迹。这指导策略更新朝向全球性有前景的解决方案,这些解决方案在稀疏奖励和大组合作动作空间下,标准 RL 往往难以发现。我们在基于跟踪驱动的边缘 AI 工作负载上开展了大量实验,表明 SIL-GPO 在端到端服务延迟和资源利用方面显著优于基于状态的启发式方法、元启发式方法和深度 RL 方法。我们的框架为在边缘部署高效编排 AI 服务和微服务提供了统一且可扩展的解决方案,为低延迟、高性能的边缘 AI 部署铺平了道路。
引用
@article{arxiv.2603.06669,
title = {Hybrid Orchestration of Edge AI and Microservices via Graph-based Self-Imitation Learning},
author = {Chen Yang and Jin Zheng and Yang Zhuolin and Lai Pan and Zhang Xiao and Hu Menglan and Yin Haiyan},
journal= {arXiv preprint arXiv:2603.06669},
year = {2026}
}