三思而后行：问题阐述提示提升大语言模型的数学推理能力
计算与语言
2024-03-28 v2 人工智能
摘要
大语言模型（LLMs）在处理数学推理等复杂任务时仍面临困难。尽管在改进前缀提示或推理过程方面投入了大量精力，但问题上下文的关键作用可能被忽视了。准确识别输入对于解决数学任务至关重要，因为形式不当的问题可能会误导大语言模型的推理。在本研究中，我们提出了一种名为问题阐述提示（PEP）的新方法，以增强大语言模型的数学能力。具体而言，PEP 在推理之前对问题上下文进行分解和阐述，从而增强上下文建模和解析效率。跨数据集和模型的实验展示了令人鼓舞的性能：(1) PEP 在各种数学任务中表现出整体提升。例如，使用 GPT-3.5 模型时，PEP 在 GSM8k 上通过贪婪解码和自一致性分别提升了 9.93% 和 8.80%。(2) PEP 易于实施并可与其他提示方法集成。(3) PEP 在处理干扰问题方面表现出特别的优势。
引用
@article{arxiv.2402.15764,
title = {Look Before You Leap: Problem Elaboration Prompting Improves Mathematical Reasoning in Large Language Models},
author = {Haoran Liao and Jidong Tian and Shaohua Hu and Hao He and Yaohui Jin},
journal= {arXiv preprint arXiv:2402.15764},
year = {2024}
}