ALFA：对齐 LLM 以提问优质问题——临床推理案例研究
计算与语言
2025-08-12 v2
摘要
大型语言模型（LLMs）常常在不确定性下无法有效提问，使其在需要主动信息收集以做出决策的领域不可靠。我们提出ALignment via Fine-grained Attributes（ALFA），一个改进LLM提问能力的框架，通过（i）将“好问题”的概念分解为一组理论 grounding 的属性（如清晰度、相关性），（ii）可控地合成属性特定的问题变体，（iii）通过偏好基优化对齐模型，以显式学习在这些细粒度属性上提出更好的问题。我们以临床推理为案例研究，引入MediQ-AskDocs数据集，包含17k条真实临床交互，增强为80k条属性特定的偏好对的后续问题，以及一个 novel expert-annotated 的交互式医疗QA任务，用于评估提问能力。与SOTA instruction-tuned LLMs 相比，ALFA对齐的模型在MediQ-AskDocs上将诊断错误率降低56.6%，问题水平获胜率达64.4%，并表现出强大的通用性。我们的发现表明，通过结构化、细粒度属性明确引导提问能力为改进LLM，尤其是在专家应用领域提供了可扩展的路径。
引用
@article{arxiv.2502.14860,
title = {ALFA: Aligning LLMs to Ask Good Questions A Case Study in Clinical Reasoning},
author = {Shuyue Stella Li and Jimin Mun and Faeze Brahman and Pedram Hosseini and Bryceton G. Thomas and Jessica M. Sin and Bing Ren and Jonathan S. Ilgen and Yulia Tsvetkov and Maarten Sap},
journal= {arXiv preprint arXiv:2502.14860},
year = {2025}
}
备注
29 pages, 8 figures, 12 tables