大型语言模型作为间接推理器：用于自动推理的逆否命题与矛盾
计算与语言
2025-01-28 v2 人工智能
摘要
近来，越来越多的注意力集中在提升大型语言模型 (LLM) 执行复杂推理的能力上。诸如思维链 (CoT) 及其变体等先进方法，被发现能通过设计合适的提示或将复杂问题分解为更易管理的子问题来增强其推理技能。然而，很少有研究关注探索推理过程本身，即我们发现大多数方法诉诸于直接推理 (DR)，而忽视了间接推理 (IR)。这可能使 LLM 难以解决在现实世界中经常遇到的 IR 任务。为了解决这个问题，我们提出了一种直接-间接推理 (DIR) 方法，该方法将 DR 和 IR 视为多条并行的推理路径，并将其合并以得出最终答案。我们通过精心设计包含逆否命题和矛盾原理的提示模板，来激发 LLM 实施 IR。这些模板触发 LLM 假设结论的否定为真，将其与前提结合以推导出一个结论，并利用逆否命题的逻辑等价性来增强其对推理过程中所用规则的理解。我们的 DIR 方法简单而有效，并且可以直接与现有的 CoT 方法变体集成。在四个与逻辑推理和数学证明相关的数据集上的实验结果表明，我们的 DIR 方法与各种基线方法结合时，显著优于所有原始方法。
引用
@article{arxiv.2402.03667,
title = {Large Language Models as an Indirect Reasoner: Contrapositive and Contradiction for Automated Reasoning},
author = {Yanfang Zhang and Yiliu Sun and Yibing Zhan and Dapeng Tao and Dacheng Tao and Chen Gong},
journal= {arXiv preprint arXiv:2402.03667},
year = {2025}
}
备注
Accepted by COLING 2025 conference