CodeLL：支持代码数据与语言模型共同演化的终身学习数据集
软件工程
2023-12-21 v1 机器学习
摘要
受近期关于代码语言模型（LM）终身学习应用研究的启发，我们引入了CodeLL，一个专注于代码变更的终身学习数据集。我们的贡献填补了一个显著的研究空白，即现有代码变更数据集缺乏长期时间维度，限制了它们在终身学习场景中的适用性。相比之下，我们的数据集旨在全面捕获开源软件仓库整个发布历史中的代码变更。在这项工作中，我们介绍了CodeLL的初始版本，包含从Software Heritage挖掘的71个基于机器学习的项目。该数据集支持提取和深入分析跨越2483个版本的方法级和API级代码变更。CodeLL使研究人员能够研究LM在终身微调设置中学习代码变更的行为。此外，该数据集有助于研究软件仓库内的数据分布漂移以及API用法随时间的演变。
引用
@article{arxiv.2312.12492,
title = {CodeLL: A Lifelong Learning Dataset to Support the Co-Evolution of Data and Language Models of Code},
author = {Martin Weyssow and Claudio Di Sipio and Davide Di Ruscio and Houari Sahraoui},
journal= {arXiv preprint arXiv:2312.12492},
year = {2023}
}
备注
4+1 pages