通过原则性合成逻辑语料库增强 LLM 的推理能力

大型语言模型（LLM）能够解决广泛的任务，但它们在推理方面仍面临困难。为了解决这一问题，我们提出了 $\textbf{附加逻辑训练（ALT）}$，旨在通过程序生成的逻辑推理样本来增强 LLM 的推理能力。我们首先结合符号逻辑理论与先前的经验见解，确立了设计高质量样本的原则。然后，基于这些原则，我们构建了一个名为 $\textbf{形式逻辑推演多样性}$（$\textbf{FLD}$$_{\times 2}$）的合成语料库，其中包含大量具有未知事实、多样推理规则、多样语言表达和具有挑战性的干扰项的多步推演样本。最后，我们通过实验表明，在 FLD$_{\times2}$ 上进行 ALT 可显著增强包括 LLaMA-3.1-70B 在内的最先进 LLM 的推理能力。提升包括在逻辑推理基准上最高提升 30 分，在数学和编程基准上最高提升 10 分，以及在基准测试套件 BBH 上提升 5 分。