工具接口设计的艺术
人工智能
2025-03-28 v1
摘要
我们提出了一个代理框架 Thinker，在涉及复杂商业逻辑和人类交互的真实客户服务情境中，通过长期视角实现了具有挑战性推理任务的 state of art 性能。在 -bench 零售数据集上，Thinker 采用 GPT-4o (2024-06-01 版本) 达到 82.6% 成功率(基线: 68.3%)，采用 Llama-3.1 405B 达到 81.9% 成功率(基线: 49.6%)，且无需任何微调。Thinker 通过引入适当的结构有效地缩小了基座模型之间的推理能力差距。Thinker 框架的关键特性包括：(1) State-Machine Augmented Generation (SMAG)，将商业逻辑表示为状态机，LLM 充当状态机作为工具。(2) 将任务从主推理循环委托给由 LLM 提供动力的工具。(3) 自适应上下文管理。我们的仅用提示词的解决方案实现了显著的性能提升，同时仍保持标准的代理架构，采用 ReAct 风格的推理循环。关键在于创新工具接口设计，SMAG 和 LLM 提供动力的工具即为例证。
引用
@article{arxiv.2503.21036,
title = {The Art of Tool Interface Design},
author = {Yunnan Wu and Paul Chen and Deshank Baranwal and Jinlong Zhou and Jian Yuan},
journal= {arXiv preprint arXiv:2503.21036},
year = {2025}
}