复杂度无关的递归分解思维
计算与语言
2026-01-09 v1 人工智能
信息论
math.IT
摘要
大型语言模型常因忽视问题特定难度而采用固定推理策略,在多步骤推理中常常失败。我们引入 CARD (Complexity Agnostic Recursive Decomposition,复杂度无关递归分解) 框架,该框架在生成前预测问题复杂度并据此调整分解方式。我们的系统包含 MRCE (Multi-dimensional Reasoning Complexity Estimator,多维推理复杂度估计器),它是一个0.6B参数的 Qwen 模型,从问题文本中预测30个细粒度特征,并包含两个阶段的递归求解器:(1) 根据任务概览将问题层次化分解为 K 步骤;(2) 通过递归 MRCE 轮廓,对每一步骤分配思维预算(1、5-9 或 10 次思维)。在 Qwen3-0.6B、DeepSeek-R1-Distill-Qwen-1.5B、Qwen3-1.7B 三个推理模型上评估,CARD 在 GSM8K 上的准确率达到 81.4%至 89.2%,相较于固定分解基线,token 成本降低 1.88 倍至 2.40 倍。在 MATH-500 数据集上,CARD 达到 75.1至 86.8% 的准确率,使用的 token 数仅为基线的 1.71 倍至 5.74 倍。我们的结果表明,预先估计复杂度既能实现更高准确率,又能显著提升效率。
引用
@article{arxiv.2601.04210,
title = {Complexity Agnostic Recursive Decomposition of Thoughts},
author = {Kaleem Ullah Qasim and Jiashu Zhang and Hafiz Saif Ur Rehman},
journal= {arXiv preprint arXiv:2601.04210},
year = {2026}
}
备注
4