用于推理和规划的语言模型的非短视生成
人工智能
2024-10-29 v3 计算与语言
摘要
大型语言模型通过将复杂问题分解为顺序步骤，在推理和规划方面展示了卓越的能力。尽管在数学问题求解和编码等各个领域取得了成功，但由于其自回归解码固有的短视特性，LLM在确保可靠和最优规划方面面临挑战。本文从最优控制的角度重新审视LLM推理，提出了一种新颖的方法，即预测解码，它利用模型预测控制来提高规划准确性。通过基于前瞻轨迹重新加权LLM分布，预测解码旨在减轻早期错误并促进非短视规划。我们的实验表明，在数学、编码和智能体的广泛任务中取得了显著改进。此外，预测解码展示了计算效率，以更少的计算资源优于搜索基线。这项研究为优化LLM规划能力提供了见解。
引用
@article{arxiv.2410.17195,
title = {Non-myopic Generation of Language Models for Reasoning and Planning},
author = {Chang Ma and Haiteng Zhao and Junlei Zhang and Junxian He and Lingpeng Kong},
journal= {arXiv preprint arXiv:2410.17195},
year = {2024}
}