面向项目特定代码摘要的少样本训练大语言模型
软件工程
2022-09-09 v2 机器学习
摘要
极大语言模型（LLMs），如 GPT-3 和 Codex，已在若干自然语言任务上取得最先进的性能，并展现出在代码方面的巨大潜力。LLMs 一个尤其令人振奋的方面是其在少样本和零样本学习上的本领：它们能用极少的示例学会执行某项任务。少样本学习在软件工程中有特殊的协同效应，因为该领域存在大量已知高度项目特定的现象（标识符名称、API、术语、编码模式）。然而，项目特定数据可能相当有限，尤其在项目历史的早期；因此 LLMs 的少样本学习能力可能非常相关。本文中，我们研究了使用极大 GPT（Generative Pre-trained Transformer）Codex 模型进行少样本训练，并发现证据表明，利用项目特定训练，可以显著超越代码摘要的最先进模型。
引用
@article{arxiv.2207.04237,
title = {Few-shot training LLMs for project-specific code-summarization},
author = {Toufique Ahmed and Premkumar Devanbu},
journal= {arXiv preprint arXiv:2207.04237},
year = {2022}
}
备注
Accepted at ASE-NIER (2022) track