Theorem-of-Thought:面向语言模型中演绎、归纳与归谬推理的多智能体框架
计算与语言
2025-08-01 v2 人工智能
摘要
大型语言模型(LLMs)在自然语言推理任务中表现出强大的性能,但其推理过程脆弱且难以解释。链式思维(Chain-of-Thought, CoT)等提示技术通过激发中间推理步骤或聚合多个输出来增强可靠性,但缺乏强制逻辑结构和评估内部连贯性的机制。我们引入Theorem-of-Thought(ToTh),一种新型框架将推理建模为三个平行智能体之间的协作,每个智能体模拟一种不同的推理模式:归谬、演绎和归纳。每个智能体产生推理轨迹,并结构化为形式化推理图。为评估一致性,我们应用由自然语言推理(NLI)指导的贝叶斯信念传播,为每个步骤分配置信度得分。选取最具连贯性的图谱以导出最终答案。在符号(WebOfLies)和数值(MultiArith)推理基准测试中,ToTh在多个LLM上 consistently 超过CoT、Self-Consistency和CoT-Decoding,同时产生可解释且逻辑上连贯的推理链。我们的发现表明,为构建更稳健且受认知启发的LLM推理指明了有前景的方向。实现代码已公开于https://github.com/KurbanIntelligenceLab/theorem-of-thought。
引用
@article{arxiv.2506.07106,
title = {Theorem-of-Thought: A Multi-Agent Framework for Abductive, Deductive, and Inductive Reasoning in Language Models},
author = {Samir Abdaljalil and Hasan Kurban and Khalid Qaraqe and Erchin Serpedin},
journal= {arXiv preprint arXiv:2506.07106},
year = {2025}
}
备注
ACL 2025 KnowFM