超越被动批判性思维：通过主动提问促进人机协作
计算与语言
2025-08-01 v1
摘要
批判性思维对于构建稳健的人工智能系统至关重要，可以防止它们盲目接受错误的数据或偏置的推理。然而，先前的工作主要关注被动批判性思维，即模型仅在不采取建设性步骤解决用户请求的情况下拒绝有问题的查询。在本工作中，我们提出了主动批判性思维范例，其中模型主动寻求用户以解决其查询不足或误导情况所需的缺失或澄清信息。为评估这一能力，我们提出了GSM-MC和GSM-MCE两个新基准，基于GSM8K评估在不完整或误导条件下的数学推理能力。GSM-MC包含1368个数学问题，其中一个关键变量被刻意删除，需要模型识别并请求缺失信息。GSM-MCE进一步提高了难度，通过引入无关细节来测试对干扰的鲁棒性。GSM8K系列模型的实验表明，尽管这些模型在广泛的后训练和推理时间扩展下在传统推理任务中表现出色，但在主动批判性思维方程有挑战，尤其是较小的模型。然而，我们演示了强化学习(RL)可以显著改善这一能力。通过我们改进的RL算法，我们实现了显著的提升，将Qwen3-1.7B在GSM-MC上的准确率从0.15%提升至73.98%。我们希望本工作推动更有效地通过主动批判性思维促进模型与用户在问题解决中的协作。
引用
@article{arxiv.2507.23407,
title = {Beyond Passive Critical Thinking: Fostering Proactive Questioning to Enhance Human-AI Collaboration},
author = {Ante Wang and Yujie Lin and Jingyao Liu and Suhang Wu and Hao Liu and Xinyan Xiao and Jinsong Su},
journal= {arXiv preprint arXiv:2507.23407},
year = {2025}
}