思维不确定性:不确定性感知规划增强大语言模型的信息寻求能力
计算与语言
2024-11-14 v3 人工智能
机器学习
摘要
面对不确定性时,*寻求信息*的能力至关重要。在许多实际应用中,例如医疗诊断和故障排除,解决任务所需的信息最初并未给出,必须通过提出后续问题(例如,医生向患者询问更多关于其症状的细节)来主动寻求。在这项工作中,我们引入了思维不确定性(Uncertainty of Thoughts, UoT)算法,以增强大语言模型通过提出有效问题来主动寻求信息的能力。UoT结合了:1)一种*不确定性感知模拟方法*,使模型能够模拟可能的未来场景及其发生的可能性;2)由信息增益驱动的*基于不确定性的奖励*,激励模型寻求信息;以及3)一种*奖励传播方案*,以最大化期望奖励的方式选择要提出的最优问题。在医疗诊断、故障排除和“20个问题”游戏的实验中,与直接提示相比,UoT在多个大语言模型上实现了平均38.1%的任务成功率提升,并且还提高了效率(即完成任务所需的问题数量)。我们的代码已在此[链接](https://github.com/zhiyuanhubj/UoT)发布。
引用
@article{arxiv.2402.03271,
title = {Uncertainty of Thoughts: Uncertainty-Aware Planning Enhances Information Seeking in Large Language Models},
author = {Zhiyuan Hu and Chumin Liu and Xidong Feng and Yilun Zhao and See-Kiong Ng and Anh Tuan Luu and Junxian He and Pang Wei Koh and Bryan Hooi},
journal= {arXiv preprint arXiv:2402.03271},
year = {2024}
}
备注
NeurIPS 2024