中文

Energy per Successful Goal: Goal-Level Energy Accounting for Agentic AI Systems

人工智能 2026-05-25 v1 机器学习 性能

摘要

当前AI能源基准在单个模型调用或训练运行的粒度上进行衡量。对于单轮工作负载,此单位仍然合理。但对于agentic系统——其中单个用户目标可能触发多步骤编排、工具调用、重试和故障恢复循环——调用次数是实现细节,而非任务属性,推理级别的归一化会误�义目标完成的能源成本。我们提出A-LEMS(Agentic LLM Energy Measurement System),一个跨层测量框架,将AI能源计量的单位从能源/推理转为能源/成功目标(Energy per Successful Goal, EpG)。EpG聚合了所有执行尝试(包括失败和重试)所消耗的总能耗,按成功完成的目标归一化。A-LEMS通过时序边界模型、将RAPL信号映射到工作流程能耗的五层观测管道以及绑定每个测量到硬件和运行时配置的可重复性协议,正式化了能源归属。基于EpG,我们定义了编排开销指数(Orchestration Overhead Index, OOI),隔离编排相对于线性执行的能耗,要求任务条件相同。对于五类推理和三类工具增强任务,agentic工作流程的能源消耗是线性基线的4.33倍平均值(888.1 J vs 205.3 J)。这种开销来自编排结构,而非推理计算。对于工具增强任务,OOI低于1.0x:agentic执行比线性更便宜,这表明该度量捕获了编排结构而非固定的向上偏置。这些发现表明,能源/推理对于agentic AI不足以衡量。EpG和OOI为准确基准测试提供测量基础,其中编排结构是能耗成本的主要决定因素。

关键词

引用

@article{arxiv.2605.22883,
  title  = {Energy per Successful Goal: Goal-Level Energy Accounting for Agentic AI Systems},
  author = {Deepak Panigrahy and Aakash Tyagi},
  journal= {arXiv preprint arXiv:2605.22883},
  year   = {2026}
}

备注

34 pages, 16 figures, 10 tables