中文

复杂度无关的递归分解思维

计算与语言 2026-01-09 v1 人工智能 信息论 math.IT

摘要

大型语言模型常因忽视问题特定难度而采用固定推理策略,在多步骤推理中常常失败。我们引入 CARD (Complexity Agnostic Recursive Decomposition,复杂度无关递归分解) 框架,该框架在生成前预测问题复杂度并据此调整分解方式。我们的系统包含 MRCE (Multi-dimensional Reasoning Complexity Estimator,多维推理复杂度估计器),它是一个0.6B参数的 Qwen 模型,从问题文本中预测30个细粒度特征,并包含两个阶段的递归求解器:(1) 根据任务概览将问题层次化分解为 K 步骤;(2) 通过递归 MRCE 轮廓,对每一步骤分配思维预算(1、5-9 或 10 次思维)。在 Qwen3-0.6B、DeepSeek-R1-Distill-Qwen-1.5B、Qwen3-1.7B 三个推理模型上评估,CARD 在 GSM8K 上的准确率达到 81.4%至 89.2%,相较于固定分解基线,token 成本降低 1.88 倍至 2.40 倍。在 MATH-500 数据集上,CARD 达到 75.1至 86.8% 的准确率,使用的 token 数仅为基线的 1.71 倍至 5.74 倍。我们的结果表明,预先估计复杂度既能实现更高准确率,又能显著提升效率。

关键词

引用

@article{arxiv.2601.04210,
  title  = {Complexity Agnostic Recursive Decomposition of Thoughts},
  author = {Kaleem Ullah Qasim and Jiashu Zhang and Hafiz Saif Ur Rehman},
  journal= {arXiv preprint arXiv:2601.04210},
  year   = {2026}
}

备注

4