EcoAct:经济智能体决定何时注册何种动作
人工智能
2024-11-05 v1 计算与语言
摘要
近期的进展使大语言模型(LLM)能够作为智能体利用外部工具执行动作。这需要注册,即在执行动作之前将工具信息集成到LLM上下文中。当前方法不加区分地将所有候选工具纳入智能体的上下文,并在多个推理步骤中保留它们。这一过程对LLM智能体而言是不透明的,也未整合到其推理程序中,导致因无关工具增加上下文长度而产生效率低下。为解决这一问题,我们引入了EcoAct,一种允许LLM按需选择性注册工具的工具使用算法。通过将工具注册过程整合到推理程序中,EcoAct在多个推理步骤任务中将计算成本降低了50%以上,同时保持了性能,如广泛实验所证明的。此外,它只需对提示进行少量修改即可插入任何推理管道,使其适用于当前和未来的LLM智能体。
引用
@article{arxiv.2411.01643,
title = {EcoAct: Economic Agent Determines When to Register What Action},
author = {Shaokun Zhang and Jieyu Zhang and Dujian Ding and Mirian Hipolito Garcia and Ankur Mallick and Daniel Madrigal and Menglin Xia and Victor Rühle and Qingyun Wu and Chi Wang},
journal= {arXiv preprint arXiv:2411.01643},
year = {2024}
}
备注
16 pages, 10 figures