基于自然语言的自适应潜在信息检索

检索信息以减少关于潜在实体的不确定性是许多应用领域中的关键任务，例如评估个体学生的学习结果、诊断潜在疾病或学习用户偏好。尽管自然语言是此类任务的强大媒介，但大型语言模型（LLMs）和现有的微调算法缺乏机制来策略性地收集信息以细化对潜在实体的理解。为充分发挥 LLMs 在开发有效信息检索策略方面的泛化能力和世界知识，我们提出了一种自适应检索框架，通过主动减少潜在实体上的不确定性来实现信息检索。由于对抽象潜在实体的概率建模困难，我们的框架采用不确定性的预测观点，使用元学习语言模型模拟未来观察，从而在复杂自然语言环境中实现可扩展的不确定性量化。通过自回归前向仿真，我们的模型量化了新问题如何减少信念不确定性，从而发展出精细化的信息检索策略，以选择最具信息性的后续查询。在 20 问游戏、动态意见抽样和自适应学生评估实验中，我们的方法在识别关键未知信息和改进下游预测方面 consistently 优于基线方法，说明了在自然语言环境中进行战略性信息检索的潜力。