AMR-Evol：自适应模块化响应演化提升大语言模型代码生成中的知识蒸馏
计算与语言
2024-10-02 v1 人工智能
软件工程
摘要
GPT4 等专有大语言模型在代码生成方面的卓越性能，导致开发开源模型以通过知识蒸馏（如 Code Evol-Instruct）复制这些能力的趋势。然而，这些努力常常忽视响应质量的关键方面，过度依赖教师模型进行直接响应蒸馏。尤其是针对复杂指令，这种范式会损害合成数据的质量，妨碍知识蒸馏过程。为此，我们提出自适应模块化响应演化（AMR-Evol）框架，采用两阶段过程来细化响应蒸馿。第一阶段是模块化分解，将直接响应分解为更易管理的子模块。第二阶段是自适应响应演化，自动以相关功能模块演化响应。我们在三个流行代码基准测试（HumanEval、MBPP 和 EvalPlus）上进行实验，证明 AMR-Evol 框架优于基线响应蒸馿方法。在与规模相似数据训练的开源代码大语言模型比较后，我们观察到性能提升：HumanEval-Plus 上提升超过 3.0 分，MBPP-Plus 上提升 1.0 分，凸显了该框架的有效性。我们的代码已公开于 https://github.com/ChiYeungLaw/AMR-Evol。
引用
@article{arxiv.2410.00558,
title = {AMR-Evol: Adaptive Modular Response Evolution Elicits Better Knowledge Distillation for Large Language Models in Code Generation},
author = {Ziyang Luo and Xin Li and Hongzhan Lin and Jing Ma and Lidong Bing},
journal= {arXiv preprint arXiv:2410.00558},
year = {2024}
}
备注
EMNLP 2024