THOUGHTSCULPT：带中间修订和搜索的推理
计算与语言
2025-02-18 v2 人工智能
摘要
我们提出THOUGHTSCULPT，一种通用的推理和搜索方法，适用于输出可分解为组件的任务。THOUGHTSCULPT使用蒙特卡洛树搜索探索潜在解的搜索树，一次构建一个动作的解，并根据任何领域特定的启发式（在实践中通常是一个LLM评估器）进行评估。关键的是，我们的动作空间包括修订动作：THOUGHTSCULPT可以选择修订其先前输出的部分，而不是继续构建其余输出。实验表明，THOUGHTSCULPT在三个具有挑战性的任务上优于最先进的推理方法：故事大纲改进（趣味性提升高达+30%）、迷你填字游戏求解（单词成功率提升高达+16%）和约束生成（概念覆盖率提升高达+10%）。
引用
@article{arxiv.2404.05966,
title = {THOUGHTSCULPT: Reasoning with Intermediate Revision and Search},
author = {Yizhou Chi and Kevin Yang and Dan Klein},
journal= {arXiv preprint arXiv:2404.05966},
year = {2025}
}
备注
Accepted to NAACL 2025 Findings. Code and data available at https://github.com/cyzus/thoughtsculpt