指令融合：通过混合推进提示演化
人工智能
2024-06-18 v4
摘要
专注于代码生成的的大型语言模型 (LLMs) 的微调通过使用开放域编码查询取得了显著进展。尽管取得了成功，但现有的方法（如 Evol-Instruct）遇到了性能限制，阻碍了代码生成任务的进一步提升。本文考察了现有提示演化技术的局限性，并引入了一种新方法：指令融合 (Instruction Fusion, IF)。IF 创新地通过混合过程结合了两个不同的提示，从而增强了代码 LLMs 训练提示的演化。我们的实验结果表明，所提出的新方法有效地解决了先前方法的缺点，显著提高了 Code LLMs 在五个代码生成基准测试（即 HumanEval、HumanEval+、MBPP、MBPP+ 和 MultiPL-E）上的性能，突显了指令融合在提升 LLMs 代码生成能力方面的有效性。
引用
@article{arxiv.2312.15692,
title = {Instruction Fusion: Advancing Prompt Evolution through Hybridization},
author = {Weidong Guo and Jiuding Yang and Kaitong Yang and Xiangyang Li and Zhuwei Rao and Yu Xu and Di Niu},
journal= {arXiv preprint arXiv:2312.15692},
year = {2024}
}