大语言模型中的思考-语言建模鸿沟
计算与语言
2025-05-20 v1 机器学习
机器学习
摘要
系统2推理是智能的关键特征之一，需要缓慢且逻辑的思考方式。人类通过组织思维语言（language of thoughts）来进行系统2推理，将推理过程构建为因果序列的心理语言。近期观察到，系统2推理可从大规模自然语言预训练的大型语言模型（Large Language Models, LLMs）中引发。然而，本文指出，语言与思维的建模之间存在显著差距。由于语言主要是人类分享知识和思考的工具，建模人类语言容易将语言偏差吸收到LLMs中，使其偏离心中推理链。我们进一步表明，这些偏差会误导LLMs聚焦于命题中偏向性的部分。为此，我们提出一种新颖的提示技术，称为语言思维（Language-of-Thoughts, LoT），以缓解此差距。LoT通过调整表达相关信息的顺序和标记，指示LLMs完整呈现所有相关信息的表达，而非仅从部分信息中引发推理链。我们表明，这一简单策略显著减少了LLMs中的语言建模偏差，并在多种推理任务中提升了LLMs的性能。
引用
@article{arxiv.2505.12896,
title = {On the Thinking-Language Modeling Gap in Large Language Models},
author = {Chenxi Liu and Yongqiang Chen and Tongliang Liu and James Cheng and Bo Han and Kun Zhang},
journal= {arXiv preprint arXiv:2505.12896},
year = {2025}
}
备注
Chenxi and Yongqiang contributed equally; project page: https://causalcoat.github.io/lot.html