神经符号AI方法用于可解释逻辑推理的比较研究

一般逻辑推理，即在特定于领域的任务上进行演绎推理的能力， continues to be a challenge for large language models (LLMs)。当前的大语言模型无法进行确定性推理，也不可解释。因此,近期人们对神经符号AI产生了浓厚兴趣,该方法试图将逻辑融入神经网络中。我们首先识别了两种改进逻辑推理的神经符号方法: (i) 集成方法,即包含符号推理的神经网络模型; (ii) 混合方法,即由独立于神经网络的符号求解器执行符号推理的模型。这两种方法都包含在表现出特定领域逻辑推理基准测试中具有前景的AI系统中。然而,它们在特定于领域的基准测试上的表现尚未得到充分研究。迄今为止,没有人对比这两种截然不同的方法,以回答以下问题:哪种方法更适合发展通用逻辑推理?为分析其潜力,我们引入了代表每种方法的最佳模型:基于集成方法的逻辑神经网络(LNN),以及基于混合方法的大语言模型符号求解器(LLM-SS)。将这两种模型作为案例研究和代表性方法,我们的分析表明,混合方法更适合发展通用逻辑推理,因为(i)其推理链更可解释,且(ii)保留了现有大语言模型的能力和优势。为支持基于混合方法的后续工作,我们提出了一个基于LLM-SS的通用化框架,该框架模块化、模型无关、领域无关,且需要极少或无需人工输入。