链状还是树状？从矩阵思维视角重新评估复杂推理
计算与语言
2025-09-29 v2 人工智能
摘要
大型语言模型（LLM）在处理复杂抽象任务时因推理能力不足而出现显著的准确度下降。链式思维（CoT）和树状思维（ToT）等思维结构旨在增强 LLM 的推理能力，但它们各自存在内在缺陷——树状结构中同一层的节点冗余，链式结构中路径的唯一性。一些研究利用检索增强生成（RAG）方法来增强 CoT 和 ToT，以缓解 LLM 中的幻觉问题，但这些思维结构的根本性缺陷仍然存在。此外，在处理多实体和多跳信息时，检索到的验证知识往往包含大量碎片化、浅层或甚至错误的数据，这会误导 LLM 的推理过程。为此，我们提出了一种名为矩阵思维（MoT）的新型高效思维结构。MoT 通过“列-单元通信”机制在水平和垂直维度上探索问题，使 LLM 能够主动进行多策略深入思考，同时减少列单元中思维节点的冗余，从而增强 LLM 的推理能力。此外，通过事实纠正机制，MoT 利用由 RAG 检索的知识图谱三元组和原始文本构建知识单元，并纠正错误答案。为验证该方法的有效性，我们在三个任务上进行了广泛实验：24 点游戏、问答 评估和命题写作。结果表明，该框架在准确率和效率上均优于最先进方法，其中推理时间仅为基线方法的 14.4%，证明了其高效与准确。该框架的代码已公开于 https://github.com/lyfiter/mtqa。
引用
@article{arxiv.2509.03918,
title = {Chain or tree? Re-evaluating complex reasoning from the perspective of a matrix of thought},
author = {Fengxiao Tang and Yufeng Li and Zongzong Wu and Ming Zhao},
journal= {arXiv preprint arXiv:2509.03918},
year = {2025}
}