中文

AgentCgroup:理解与控制 AI 智能体的 OS 资源

操作系统 2026-02-24 v2 人工智能

摘要

AI 智能体正在部署于多租户云环境中,它们在受沙箱容器中执行多样化的工具调用,每次调用都具有不同的资源需求和快速波动。我们对 OS 层面的资源动态进行系统性刻画,分析了来自 SWE-rebench 基准中 144 个软件工程任务的跨两个 LLM 模型的数据。我们的测量结果表明:(1) OS 层面的执行(工具调用、容器和智能体初始化)占端到端任务延迟的 56-74%;(2) 内存而非 CPU 是并发瓶颈;(3) 内存峰值由工具调用驱动,峰值与平均值比率可达 15.4 倍;(4) 资源需求在任务、运行和模型之间高度不可预测。将这些特征与无服务器、微服务和批处理工作负载进行比较,我们识别出三类现有资源控制的不匹配:粒度不匹配(容器级策略 vs. 工具调用级动态)、响应性不匹配(用户空间反应 vs.亚秒级不可预测突发)以及适应性不匹配(基于历史的预测 vs.非确定性有状态执行)。我们提出 AgentCgroup,一种以意图为导向的 eBPF 基于资源控制器,利用智能体声明资源需求和重构执行策略的能力,使用与工具调用边界对齐的层次化 cgroup 结构,通过 sched_ext 和 memcg_bpf_ops 实现内核级强制,并采用运行时自适应策略。初步评估显示其改进了多租户隔离并减少了资源浪费。AgentCgroup 已开源于 https://github.com/eunomia-bpf/agentcgroup。

关键词

引用

@article{arxiv.2602.09345,
  title  = {AgentCgroup: Understanding and Controlling OS Resources of AI Agents},
  author = {Yusheng Zheng and Jiakun Fan and Quanzhi Fu and Yiwei Yang and Wei Zhang and Andi Quinn},
  journal= {arXiv preprint arXiv:2602.09345},
  year   = {2026}
}