SRA-MCTS：基于蒙特卡洛树搜索的自驱动推理增强用于代码生成
计算与语言
2025-05-12 v5 人工智能
摘要
大型语言模型在简单的代码生成任务中表现出色，但在处理复杂问题时仍面临挑战。这些挑战可能源于推理和问题分解能力的不足。为了解决这一问题，我们提出了一种推理增强的数据生成过程 SRA-MCTS，它引导模型自主生成高质量的中间推理路径。这创造了一个正向反馈循环，使持续改进成为可能。我们的方法完全通过模型自身运行，无需额外监督。通过合成自然语言推理路径并将其转化为可执行代码，该方法确保了分析的准确性，并提高了解决复杂任务的成功率。实验结果表明，即使没有额外的监督信号，我们的方法在不同模型规模下均取得了性能提升，展示了小模型在自我改进方面的巨大潜力。此外，当传统思维链（CoT）方法出现性能退化时，该方法仍保持鲁棒性，并在 pass@10 等多样性指标上表现出显著改善。我们鼓励进一步探索训练数据中的推理过程，以增强语言模型解决复杂问题的能力。我们的代码和数据公开于 https://github.com/DIRECT-BIT/SRA-MCTS。
引用
@article{arxiv.2411.11053,
title = {SRA-MCTS: Self-driven Reasoning Augmentation with Monte Carlo Tree Search for Code Generation},
author = {Bin Xu and Yiguan Lin and Yinghao Li and Yang Gao},
journal= {arXiv preprint arXiv:2411.11053},
year = {2025}
}
备注
Accepted by IJCAI2025