从自训练视角重新思考链条推理
计算与语言
2025-05-27 v4 人工智能
摘要
链条推理（Chain-of-Thought, CoT）推理已成为激发大语言模型潜在能力的有效方法。有趣的是，我们注意到，CoT 推理与自训练共享核心目标：不断利用模型生成的信息来逐步减少预测不确定性。基于这一洞见，我们提出了一种新颖的CoT框架以提高推理性能。该框架集成了两个关键组件：（i）面向特定任务的提示模块，用于优化初始推理过程；（ii）自适应推理迭代模块，动态细化推理过程，解决以往CoT方法的局限性，即过度推理和连续推理迭代之间的高度相似性。大量实验表明，所提方法在性能和计算效率方面均取得显著优势。
引用
@article{arxiv.2412.10827,
title = {Rethinking Chain-of-Thought from the Perspective of Self-Training},
author = {Zongqian Wu and Baoduo Xu and Ruochen Cui and Mengmeng Zhan and Xiaofeng Zhu and Lei Feng},
journal= {arXiv preprint arXiv:2412.10827},
year = {2025}
}
备注
21 pages, 8 figures