通过蒸馏LLM推理能力提升小模型的代码生成性能
软件工程
2024-03-21 v1
摘要
大型语言模型（LLM）最近通过'链律思考'（Chain-of-Thought）提示技术在代码生成方面取得了显著进展。该技术使模型能够自主构思'解决方案计划'以解决复杂的编程挑战，从而提高其代码生成性能。然而，较小的模型在推断这些计划方面一直跟不上LLM，严重影响其代码生成能力。鉴于较小模型的规模及其相关部署成本，以及数据安全方面的考量，许多团队选择部署较小的模型进行代码生成。因此， transferring LLM的代码生成推理能力至较小模型的需求显而易见。本文提出了CodePLAN框架，旨在通过蒸馏将LLM的推理能力转移至较小模型。我们采用多任务学习方法，联合承担代码生成和解决方案计划生成任务，以提升较小模型的代码生成能力。为确保解决方案计划的优质，我们主张采用反向推理和计划抽样策略。我们的实验表明，与常规微调方法相比，我们的方法在挑战性的APPS基准测试中，将较小模型的代码生成性能（以pass@1指标衡量）提高了超过130%。
引用
@article{arxiv.2403.13271,
title = {Enhancing Code Generation Performance of Smaller Models by Distilling the Reasoning Ability of LLMs},
author = {Zhihong Sun and Chen Lyu and Bolun Li and Yao Wan and Hongyu Zhang and Ge Li and Zhi Jin},
journal= {arXiv preprint arXiv:2403.13271},
year = {2024}
}
备注
Accepted for LREC-COLING 2024