抽象思维使语言模型成为更好的推理器
计算与语言
2024-09-27 v2 人工智能
摘要
抽象推理，即从问题的抽象本质出发进行推理，是人类推理泛化的关键。然而，引导语言模型进行抽象推理的研究仍不充分。本文通过引入一种名为 Abstraction-of-Thought（AoT）的新型结构化推理格式来弥合这一差距。AoT 的独特之处在于对推理过程中不同层次的抽象要求。该方法可以激发语言模型首先在抽象层面进行思考，然后再纳入具体细节，而这一点被主流的逐步链式思维（Chain-of-Thought，CoT）方法所忽视。为使模型适应 AoT 格式，我们提出了 AoT Collection，即一个包含 34.8k 个高质量样本的通用微调数据集，通过自动可扩展的管道收集了具有 AoT 推理过程的样本。我们使用 AoT Collection 对广泛的语言模型进行微调，并在来自具有挑战性基准 Big-Bench Hard 的 23 个不可见任务上进行大规模评估。实验结果表明，针对 AoT 推理格式对齐的模型在许多推理任务中显著优于针对 CoT 格式对齐的模型。
引用
@article{arxiv.2406.12442,
title = {Abstraction-of-Thought Makes Language Models Better Reasoners},
author = {Ruixin Hong and Hongming Zhang and Xiaoman Pan and Dong Yu and Changshui Zhang},
journal= {arXiv preprint arXiv:2406.12442},
year = {2024}
}
备注
EMNLP 2024 Findings