中文

从信念固化到 LLM 智能体的稳健推理

机器学习 2026-02-12 v5 计算与语言

摘要

多智能体辩论 (MAD) 已成为大型语言模型 (LLM) 推理推理扩展方法的热门选择。然而,它经常 suffer于信念固化,即智能体强化共享错误而非纠正错误。本文不仅识别这一失效,更将其分解为两个 distinct 根本原因:(1) 模型的偏见 静态初始信念(2)\textit{静态初始信念};(2) \textit{同质化辩论动力学} 强化多数观点而不顾正确性。为依次解决这些问题,我们提出 DReaMAD\textbf{DReaMAD} ((D\textbf{D}iverse Rea\textbf{Rea}soning via M\textbf{M}ulti-A\textbf{A}gent D\textbf{D}ebate with Refined Prompt))。该框架首先通过战略先验知识引导纠正静态信念,然后通过强制视角多样性重塑辩论动力学。在我们的新 MetaNIM Arena\textit{MetaNIM Arena} 基准上验证,DReaMAD\textbf{DReaMAD} 显著缓解了固化现象,相较于 ReAct 提示方法实现 +9.5% 的准确率提升,相较于标准 MAD 获得 +19.0% 的更高胜率。

关键词

引用

@article{arxiv.2503.16814,
  title  = {From Belief Entrenchment to Robust Reasoning in LLM Agents},
  author = {Jihwan Oh and Minchan Jeong and Jongwoo Ko and Se-Young Yun},
  journal= {arXiv preprint arXiv:2503.16814},
  year   = {2026}
}

备注

Accepted to TACL