基于抽象语义表示的逻驱数据增强用于逻辑推理
计算与语言
2025-04-18 v7 人工智能
摘要
将大语言模型与逻辑推理相结合，增强了其以稳健可靠方式解决问题的能力。然而，逻辑推理的复杂性给从网络收集可靠数据以构建全面训练集带来挑战，进而影响下游任务性能。为此，我们引入一种新颖的逻驱数据增强方法 AMR-LDA。AMR-LDA 将原始文本转换为抽象语义表示（AMR）图，一种封装句子逻辑结构的结构化语义表示，在其上执行操作以生成逻辑修改的AMR图。修改后的AMR图随后被转换回文本以创建增强数据。值得注意的是，我们的方法独立于架构，既通过提示增强提升生成式大语言模型（如 GPT-3.5 和 GPT-4），又通过基于逻驱数据增强的对比学习提升判别式大语言模型。经验证据强调了我们所提方法的有效性，在七个下游任务（如需要逻辑推理的阅读 comprehension、文本蕴含和自然语言推理）上性能均有提升。此外，我们的方法在 https://eval.ai/web/challenges/challenge-page/503/leaderboard/1347 的 ReClor 排行榜上领先。源代码和数据公开于 https://github.com/Strong-AI-Lab/Logical-Equivalence-driven-AMR-Data-Augmentation-for-Representation-Learning。
引用
@article{arxiv.2305.12599,
title = {Abstract Meaning Representation-Based Logic-Driven Data Augmentation for Logical Reasoning},
author = {Qiming Bao and Alex Yuxuan Peng and Zhenyun Deng and Wanjun Zhong and Gael Gendron and Timothy Pistotti and Neset Tan and Nathan Young and Yang Chen and Yonghua Zhu and Paul Denny and Michael Witbrock and Jiamou Liu},
journal= {arXiv preprint arXiv:2305.12599},
year = {2025}
}
备注
21 pages, 8 figures, the Findings of ACL 2024