中文

DualSpec:加速深度研究代理的双过程动作预测

机器学习 2026-03-10 v1

摘要

基于大型语言模型的深度研究代理正在变得越来越流行,用于解决长期信息寻求任务,但由于进行大量推理和频繁使用工具,往往会出现较高的端到端延迟。预测框架旨在通过重叠动作执行和推理来降低延迟;然而,现有方法通常依赖统一的预测策略和严格的动作匹配,这限制了推理加速和鲁棒性。在本工作中,我们通过动作异质性的视角重新审视深度研究代理的预测-验证范式。我们展示,"搜索"和"访问"动作在推理和模型容量需求方面存在根本差异:基于熵的分析揭示,搜索决策的不确定性更高,显著受益于显式推理,而访问决策的熵较低,主要取决于模型容量。鼓励这种双过程特性,我们提出了DualSpec,一种配备轻量级、基于置信度的语义验证器的异构预测框架。实验在多个模型和基准上表明,DualSpec在保持与完全推理代理相当的准确性的同时,实现了最高可达3.28倍的端到端加速。

关键词

引用

@article{arxiv.2603.07416,
  title  = {DualSpec: Accelerating Deep Research Agents via Dual-Process Action Speculation},
  author = {Shuzhang Zhong and Baotong Lu and Qi Chen and Chuanjie Liu and Fan Yang and Meng Li},
  journal= {arXiv preprint arXiv:2603.07416},
  year   = {2026}
}