错误思维：一种集成推理框架，包含多视角验证与错误信息
计算与语言
2024-10-08 v1
摘要
链式思维（Chain-of-Thought, CoT）已成为增强大型语言模型（Large Language Models, LLMs）性能的关键技术，吸引了越来越多的研究者注意。当前研究的一个方向聚焦于通过持续验证和细化语言模型的推理输出来实现其性能的迭代提升。尽管该方法取得了令人印象深刻的结果，但仍面临两个关键挑战：（1）简单的验证方法：当前方法仅依赖单一的验证方法。（2）忽略错误信息：传统方法在推理过程中直接忽略错误信息，并每次从零开始细化逻辑路径。为解决这些挑战，我们提出了错误思维（Wrong-of-Thought, WoT），其包含两个核心模块：（1）多视角验证：一种用于精确细化推理过程和结果的多视角验证方法；（2）错误信息利用：利用错误信息警示语言模型，减少其重复犯错的概率。在8个流行数据集和5个大型语言模型上的实验表明，WoT超越了所有先前的基线方法。此外，WoT在困难计算任务中展现出强大的能力。
引用
@article{arxiv.2410.04463,
title = {Wrong-of-Thought: An Integrated Reasoning Framework with Multi-Perspective Verification and Wrong Information},
author = {Yongheng Zhang and Qiguang Chen and Jingxuan Zhou and Peng Wang and Jiasheng Si and Jin Wang and Wenpeng Lu and Libo Qin},
journal= {arXiv preprint arXiv:2410.04463},
year = {2024}
}
备注
Accepted by EMNLP 2024 Findings