中文

弱驱动学习:弱智能体如何使强智能体更强

人工智能 2026-02-10 v1

摘要

随着后训练优化成为改进大型语言模型的核心手段,我们注意到一个持续的饱和瓶颈:一旦模型高度自信,进一步的训练便会产生报酬递减。虽然现有方法继续强化目标预测,但我们发现模型自身历史弱状态中仍蕴含着有价值的监督信号。基于此观察,我们提出了 WMSS(Weak Agents Can Make Strong Agents Stronger),一种后训练范式,通过利用弱检查点来指导持续优化。通过识别可恢复的学习差距并通过补偿学习来加以强化,WMSS 使强智能体能够超越常规后训练的饱和限制。在数学推理和代码生成数据集上的实验表明,使用我们方法训练的智能体能够实现有效的性能提升,同时在推理成本上几乎为零。

关键词

引用

@article{arxiv.2602.08222,
  title  = {Weak-Driven Learning: How Weak Agents make Strong Agents Stronger},
  author = {Zehao Chen and Gongxun Li and Tianxiang Ai and Yifei Li and Zixuan Huang and Wang Zhou and Fuzhen Zhuang and Xianglong Liu and Jianxin Li and Deqing Wang and Yikun Ban},
  journal= {arXiv preprint arXiv:2602.08222},
  year   = {2026}
}