API Pack:一个大规模多编程语言数据集用于API调用生成
计算与语言
2025-02-17 v6 人工智能
机器学习
摘要
我们介绍了API Pack,一个包含超过一百万条指令-API调用的大规模多编程语言数据集,用于提高大语言模型的API调用生成能力。我们的评估突显了三个关键发现:首先,针对API Pack进行精细调优使开源模型在生成全新的API调用方面超越GPT-3.5和GPT-4。我们通过在API Pack中20,000个Python实例上对CodeLlama-13B进行精细调优证明了这一点。其次,针对一个语言中大型数据集,结合其他语言的较小数据集,能提高跨多个语言的API生成准确率。第三,我们确认了更大数据集对API泛化的好处,增加精细调优数据到一百万个实例可增强对新API的泛化。为支持进一步的研究,我们在https://github.com/zguo0525/API-Pack开源了API Pack数据集、训练好的模型和代码。
引用
@article{arxiv.2402.09615,
title = {API Pack: A Massive Multi-Programming Language Dataset for API Call Generation},
author = {Zhen Guo and Adriana Meza Soria and Wei Sun and Yikang Shen and Rameswar Panda},
journal= {arXiv preprint arXiv:2402.09615},
year = {2025}
}