教会语言模型主动gather信息
人工智能
2025-07-30 v1 计算与语言
摘要
大型语言模型（Large Language Models, LLMs）越来越被期望作为合作伙伴，参与以复杂、模糊问题为导向的来回对话，以解决问题。然而，当前的 LLM 在实际场景中常常力不从心， defaulting 到被动响应或狭隘的澄清，当面对不完整或不明确的提示时，远远不够主动地收集对于高质量解决方案至关重要的缺失信息。本 work 提出了一种新任务范式：主动信息gather，其中 LLM 必须识别提供的上下文中的信息空白，并通过有针对性的问题主动向用户搜集隐含知识。为系统地研究和训练这一能力，我们设计了一个可扩展框架，用于生成部分指定的、真实世界的任务，遮盖关键信息并模拟真实的模糊性。在该设置下，我们的核心创新是一种强化微调策略，奖励能够引导出真正新颖、隐含用户信息的问题——例如隐藏的领域专长或细粒度要求——这些信息本会被保持沉默。实验表明，我们训练的 Qwen-2.5-7B 模型在自动评估指标上相较于 o3-mini 高出 18%。更重要的是，人类评估显示，我们的模型生成的澄清问题和最终提纲分别在人类标注员手中获奖比例分别为 42% 和 28%。这些结果凸显了主动澄清在提升 LLM 从被动文本生成器到真正合作性思想伙伴中的价值。
引用
@article{arxiv.2507.21389,
title = {Teaching Language Models To Gather Information Proactively},
author = {Tenghao Huang and Sihao Chen and Muhao Chen and Jonathan May and Longqi Yang and Mengting Wan and Pei Zhou},
journal= {arXiv preprint arXiv:2507.21389},
year = {2025}
}