PathReasoner:用于逻辑问答的等效扩展推理路径建模
计算与语言
2024-05-30 v1
摘要
逻辑推理任务自提出以来引发了广泛关注。面对这一任务,当前的竞争模型,甚至大型语言模型(如 ChatGPT 和 PaLM 2),仍表现不佳。以往的优越语言模型在逻辑一致性建模和逻辑结构感知方面仍存在挑战。为此,我们通过将每个逻辑样本转换为推理路径来建模逻辑推理任务,提出一种名为 PathReasoner 的架构。该方法从数据和模型两个角度进行设计。为扩充逻辑样本的多样性,我们提出一种基于等效逻辑公式的原子扩展策略,以形成新的推理路径。从模型角度,我们设计了一系列基于 Transformer 的模块。特别地,我们提出了一种路径注意力模块,用于高阶扩散策略中联合建模原子内关系和跨原子关系。实验表明,PathReasoner 在两个逻辑推理基准上实现了具竞争力的性能,并展现出出色的泛化能力。
关键词
引用
@article{arxiv.2405.19109,
title = {PathReasoner: Modeling Reasoning Path with Equivalent Extension for Logical Question Answering},
author = {Fangzhi Xu and Qika Lin and Tianzhe Zhao and Jiawei Han and Jun Liu},
journal= {arXiv preprint arXiv:2405.19109},
year = {2024}
}
备注
Accepted by ACL 2024