AgentStop：终止本地AI代理以节省消费级设备能源
机器学习
2026-05-18 v1 人工智能
分布式、并行与集群计算
摘要
由大型语言模型（LLM）驱动的自主代理日益用于自动化处理编码或基于网页的问答等复杂多步骤任务。虽然远程云端代理提供了可扩展性和部署便利性，但存在隐私顾虑、依赖网络连接以及持续的API费用问题。在用户设备上部署代理可消除这些问题，由于数据私有性得到保护且无需支付按使用计费的费用。然而，代理式工作流程远比典型的LLM交互更加资源密集。迭代推理、工具使用以及失败重试大幅增加token消耗，往往在未成功完成任务的情况下消耗大量计算资源。本文调查了在消费级硬件上部署的基于LLM的代理的时开销、token开销和能源开销。我们的测量结果表明，与单次推理工作相比，代理式执行会增加GPU功耗、温度和电池消耗。为解决这一效率问题，我们引入AgentStop——一种轻量级效率监督器，能够预测并预先终止不太可能成功的轨迹。凭借token级对数概率等低成本执行信号，AgentStop可在不显著影响任务性能（<5%效用下降）的情况下，将浪费能源降低15-20%，适用于具有挑战性的基于网页的问答和编码基准。这为在用户设备上实现可持续、隐私保护的LLM代理提供了实际可行的机制。我们的项目代码和数据已公开于https://github.com/brave-experiments/AgentStop。
引用
@article{arxiv.2605.15206,
title = {AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices},
author = {Dzung Pham and Kleomenis Katevas and Ali Shahin Shamsabadi and Hamed Haddadi},
journal= {arXiv preprint arXiv:2605.15206},
year = {2026}
}
备注
ACM CAIS '26