中文

利用大语言模型进行逻辑推理中的假设演绎:一种神经符号方法

计算与语言 2024-10-30 v1

摘要

大语言模型(LLMs)在包括逻辑推理在内的广泛推理任务中展现出巨大潜力。尽管已付出大量努力通过外部逻辑符号求解器来增强 LLMs 的逻辑推理能力,但符号求解器驱动的方法对不同特征问题的泛化能力差以及不可避免的问题信息丢失等关键挑战仍未解决。为了缓解这些问题,我们引入了 LINA,一种由 LLM 驱动的、用于忠实逻辑推理的神经符号方法。通过使 LLM 能够自主执行从命题逻辑提取到复杂逻辑推理的转换,LINA 不仅增强了推理过程的鲁棒性,还消除了对外部求解器的依赖。此外,通过采用假设演绎推理范式,LINA 有效地规避了困扰传统正向推理方法的庞大搜索空间挑战。实证评估表明,LINA 在五个逻辑推理任务中均显著优于既有的命题逻辑框架和传统的提示技术。具体而言,LINA 在 FOLIO 数据集上比 LINC 提高了 24.34%,同时比 CoT 和 CoT-SC 等提示策略高出多达 24.02%。我们的代码可在 https://github.com/wufeiwuwoshihua/nshy 获取。

关键词

引用

@article{arxiv.2410.21779,
  title  = {Leveraging LLMs for Hypothetical Deduction in Logical Inference: A Neuro-Symbolic Approach},
  author = {Qingchuan Li and Jiatong Li and Tongxuan Liu and Yuting Zeng and Mingyue Cheng and Weizhe Huang and Qi Liu},
  journal= {arXiv preprint arXiv:2410.21779},
  year   = {2024}
}