黑箱说服式提示：通过高效引导大型语言模型实现推理
计算与语言
2026-05-19 v3 机器学习
摘要
大型推理模型 (LRM) 已在通过逐步思考方式解决复杂任务方面展现出惊人的能力。然而，这种冗长的推理过程会导致显著的计算和延迟开销，阻碍了 LRM 的实际部署。本文提出了一种新方法，通过黑箱说服式提示来缓解 LRM 的“过度思考”问题。我们将 LRM 视为黑箱交流者，探究如何说服其生成简洁的响应而不牺牲准确性。我们引入 Whisper，一个迭代细化框架，用于生成来自多种视角的高质量说服提示。实验表明，Whisper 在多个基准测试中均能显著减少 token 使用量，同时保持性能。值得注意的是，Whisper 在 Qwen3 模型系列中可将简单 GSM8K 问题的平均响应长度缩短 3 倍，所有基准测试平均减少约 40% 的 token。对于闭源 API，Whisper 在 MATH-500 上将 Claude-3.7 的 token 使用量降低 46%，Gemini-2.5 的 token 使用量降低 50%。进一步分析表明，Whisper 适用于数据领域、模型规模和模型家族，凸显了黑箱说服式提示作为提升 LRM 效率的实用策略的广泛前景。
引用
@article{arxiv.2510.10528,
title = {Merlin's Whisper: Enabling Efficient Reasoning in Large Language Models via Black-box Persuasive Prompting},
author = {Heming Xia and Cunxiao Du and Rui Li and Chak Tou Leong and Yongqi Li and Wenjie Li},
journal= {arXiv preprint arXiv:2510.10528},
year = {2026}
}
备注
ACL 2026 (Long Paper), camera-ready version