中文

基于面向前提的数据增强的思维路径对比学习用于逻辑阅读理解

计算与语言 2025-02-07 v3 人工智能

摘要

逻辑阅读理解是一项具有挑战性的任务,需要掌握文本的底层语义并应用推理来推导出正确答案。先前的研究主要集中在通过思维链或数据增强来增强逻辑推理能力。然而,先前构建思维链推理依据的工作仅集中于分析正确选项,忽略了错误的备选项。此外,早期通过修改上下文进行数据增强的努力依赖于基于规则的方法,这导致生成的上下文缺乏多样性和连贯性。为了解决这些问题,我们提出了一种面向前提的数据增强(PODA)框架。该框架可以生成包含对正确和错误选项分析的 CoT 推理依据,同时从错误的候选选项中构建多样且高质量的反事实上下文。我们将总结前提和识别每个选项的前提整合到推理依据中。随后,我们使用带有已识别前提的多步提示来构建反事实上下文。为了促进模型更好地区分与每个选项相关的推理过程的能力,我们引入了一种新颖的思维路径对比学习方法,该方法比较原始样本和反事实样本之间的推理路径。在三个代表性 LLM 上的实验结果表明,我们的方法可以在两个具有挑战性的逻辑推理基准(ReClor 和 LogiQA 2.0)上大幅改进基线。数据和代码发布于 https://github.com/lalalamdbf/TPReasoner。

关键词

引用

@article{arxiv.2409.14495,
  title  = {Thought-Path Contrastive Learning via Premise-Oriented Data Augmentation for Logical Reading Comprehension},
  author = {Chenxu Wang and Ping Jian and Zhen Yang},
  journal= {arXiv preprint arXiv:2409.14495},
  year   = {2025}
}

备注

Accepted by AAAI 2025