浓缩经验提升 LLM 代理的测试时推理
人工智能
2026-04-07 v1 机器学习
摘要
越来越多的研究旨在无需更新模型参数的情况下提高 LLM 的性能。其中一种已建立的方法是测试时扩缩：通过增加推理时间（例如更长的推理、抽样或搜索）来提升性能。然而，对于复杂推理和代理类任务，盲目扩大测试时计算量会显著增加成本，仍可能在次优探索上浪费预算。本文我们探讨了“上下文”作为提高 LLM 性能的补充扩缩轴，系统研究如何构建更好的输入以通过“经验”引导推理。我们表明，有效的上下文构建关键取决于“浓缩经验”。我们对经验增强型代理进行了详细分析，研究如何从经验中提取上下文、性能如何随积累经验而扩展、良好上下文的特征，以及哪种数据结构最能支持上下文构建。我们识别出“浓缩经验”作为有效上下文构建的关键机制：从经验中提取精髓、组织结构化、检索关键信息以构建有效的上下文。我们在推理和代理类任务中验证了这些发现，包括数学推理、网页浏览和软件工程。
引用
@article{arxiv.2604.04373,
title = {Decocted Experience Improves Test-Time Inference in LLM Agents},
author = {Maohao Shen and Kaiwen Zha and Zexue He and Zhang-Wei Hong and Siru Ouyang and J. Jon Ryu and Prasanna Sattigeri and Suhas Diggavi and Gregory Wornell},
journal= {arXiv preprint arXiv:2604.04373},
year = {2026}
}