零错误解决百万步 LLM 任务
人工智能
2025-11-13 v1 计算与语言
多智能体系统
摘要
LLM 在推理、洞察和工具使用方面取得了显著进展, 但将这些能力链式连接到规模与人类、组织和社会常规模执行的进程中仍未实现。模型存在持续的错误率, 防止规模化:例如, 最近在 Towers of Hanoi 基准域中的实验显示, 进程在最多几百步后必然偏离。因此, 尽管 LLM 研究通常仍在具有相对较少依赖逻辑步骤的任务上进行基准测试, 但越来越多地关注 LLM 执行长期任务的能力(或能力不足)。本文描述了 MAKER, 成功解决超过一百万个 LLM 步骤且无错误的系统, 并原则上可进一步规模化。该方法依赖于将任务极端分解为子任务, 每个子任务都可以由专注的微型代理处理。从分解中产生的高度模块化允许通过高效的多代理投票方案在每个步骤上应用纠错。这种极端分解和纠错的组合使得规模化成为可能。因此, 结果表明, 与其依赖当前 LLM 的持续改进, 超大规模分解代理过程 (MDAP) 可能是解决组织和社会水平问题的有效方法。
引用
@article{arxiv.2511.09030,
title = {Solving a Million-Step LLM Task with Zero Errors},
author = {Elliot Meyerson and Giuseppe Paolo and Roberto Dailey and Hormoz Shahrzad and Olivier Francon and Conor F. Hayes and Xin Qiu and Babak Hodjat and Risto Miikkulainen},
journal= {arXiv preprint arXiv:2511.09030},
year = {2025}
}
备注
Main paper: 14 pages, 29 pages with references and appendix