情境一切：简化代理的 LCLM 方法
计算与语言
2025-05-14 v1 机器学习
摘要
近期语言模型（LM）代理的进展已展现出在自动化复杂现实任务方面的巨大潜力。为解决这些困难任务，LM 代理架构变得日益复杂，常纳入多步骤检索工具、多个代理以及针对底层 LM 调整的脚手架。本文我们探讨这些复杂性是否必需，或者这些脚手架的哪些部分可以在像 SWE-bench 这样的挑战性任务中被移除。我们展示，在 SWE-bench 场景下，仅将整个环境置入长上下文语言模型（LCLM）的上下文中，并进行恰当的提示，即可与经过精细调优的复杂代理脚手架齐声。我们表明，一个无需任何脚手架或工具的 Gemini-1.5-Pro 模型在 SWE-Bench-Verified 上取得 38% 的得分，与使用精心调优的代理脚手架的方法（32%）相当。虽然未使用脚手架的 Gemini-1.5-Pro 方法未达到最强代理式架构的水平，但我们展示，更强大的 Gemini-2.5-Pro 采用相同的无脚手架方法即可直接实现 50.8% 的解题率。此外，结合 Gemini-1.5-Pro 与 Claude-3.7 的两阶段方法也可实现具竞争力的 48.6% 解题率。
引用
@article{arxiv.2505.08120,
title = {Putting It All into Context: Simplifying Agents with LCLMs},
author = {Mingjian Jiang and Yangjun Ruan and Luis Lastras and Pavan Kapanipathi and Tatsunori Hashimoto},
journal= {arXiv preprint arXiv:2505.08120},
year = {2025}
}