基于决策树与 LLM 代理的符号推理新型架构
人工智能
2025-08-08 v1 计算与语言
摘要
我们提出一种混合架构,将基于决策树的符号推理与大语言模型(LLM)的生成能力集成于一个协调的多代理框架中。不同于以往松散耦合符号和神经模块的先前方法,我们的设计将决策树和随机森林作为可调用的 oracle 嵌入统一推理系统。基于树的模块启用可解释的规则推断和因果逻辑,而 LLM 代理处理归纳推理、泛化和交互式规划。一个中心 orchestrator 维护信念状态一致性,并协调代理和外部工具之间的通信,实现对结构化和非结构化输入的推理。该系统在推理基准测试中实现了强大的性能。在\textit{ProofWriter}上,通过逻辑 grounding 树验证,实现了+7.2%的命中率一致性。在GSM8k上,实现了+5.3%的多步数学问题准确率提升。在\textit{ARC}上,通过集成符号 oracle,实现了+6.0%的抽象命中率提升。临床决策支持和科学发现等应用显示,系统在符号编码领域规则的同时,利用LLM进行上下文推断和假设生成。该架构为通用神经符号推理提供了稳健、可解释且可扩展的解决方案。
引用
@article{arxiv.2508.05311,
title = {A Novel Architecture for Symbolic Reasoning with Decision Trees and LLM Agents},
author = {Andrew Kiruluta},
journal= {arXiv preprint arXiv:2508.05311},
year = {2025}
}