面向大型语言模型的不确定性思维树推理
计算与语言
2023-09-15 v1 人工智能
机器学习
摘要
尽管近期提出的思维树（ToT）通过在全局决策中借助前瞻与回溯推理推动了大型语言模型（LLMs）的推理进展，但其忽视了中间决策点（即“思维”）固有的局部不确定性。这些局部不确定性内生于 LLM，因其响应具有多样性可能，在推理过程中仍是一大关切。针对这一关键空白，我们引入不确定性思维树（TouT）——一种为 LLM 量身定制的推理框架。我们的 TouT 有效利用蒙特卡洛 Dropout 来量化 LLM 在这些中间步骤多样局部响应的不确定性分数。通过将此局部不确定性量化与全局搜索算法结合，TouT 提升了模型在响应生成上的精确性。我们在两项具挑战性的规划任务（24 点游戏与迷你填字游戏）上以严谨实验佐证了该方法。经验证据凸显了 TouT 相对于 ToT 与思维链提示方法的优越性。
引用
@article{arxiv.2309.07694,
title = {Tree of Uncertain Thoughts Reasoning for Large Language Models},
author = {Shentong Mo and Miao Xin},
journal= {arXiv preprint arXiv:2309.07694},
year = {2023}
}