基于关键点的大语言模型数学推理蒸馏
计算与语言
2024-10-11 v4 人工智能
摘要
大型语言模型（LLM）因其庞大的参数规模和在海量数据集上的训练，已在数学推理任务中展现出卓越的能力。尽管如此，部署 LLM 却受到计算资源需求的制约。将 LLM 的数学推理蒸馏到较小的语言模型（SLM）已成为解决这一挑战的方案，但这些较小的模型常常在计算和语义理解方面存在错误。先前的工作提出了程序化思维蒸馏（PoTD）以避免计算误差。为进一步解决语义理解误差，本文提出了关键点驱动的数学推理蒸馏方法（KPDD）。KPDD 通过将问题解决过程分为三个阶段来提升 SLM 的推理能力：核心问题提取、问题解决信息提取和逐步解答。该方法进一步分为生成链式思维理由的 KPDD-CoT 和生成程序化思维理由的 KPDD-PoT。实验结果表明，KPDD-CoT 显著提升了推理能力，而 KPDD-PoT 在数学推理任务中实现了最先进的性能。我们的方法有效缓解了误解误差，推动了高效且 capable 的 SLM 的部署。
引用
@article{arxiv.2407.10167,
title = {Key-Point-Driven Mathematical Reasoning Distillation of Large Language Model},
author = {Xunyu Zhu and Jian Li and Can Ma and Weiping Wang},
journal= {arXiv preprint arXiv:2407.10167},
year = {2024}
}
备注
Major Updates:1.fix faults in the error analysis, 2. improve our method, 3. use ChatGPT as teacher LLMs to ensure fairness in performance comparisons