利用迁移学习改进代码自动补全
软件工程
2021-10-14 v2 机器学习
摘要
软件语言模型在预测代码补全用法方面已取得可喜成果，且若干产业研究描述了成功的 IDE 集成。近期，通过在从程序员 IDE 活动中收集的真实世界数据集上训练，自动补全预测的准确率提升了 12.8%。但若可用于模型训练的目标编程语言 IDE 自动补全样本有限，该如何应对？本文中，我们研究了在非 IDE、非自动补全及不同语言的示例代码片段上预训练自动补全模型的效果。我们发现，这些无监督预训练在极小的微调数据集上将模型准确率提升了逾 50%，在 5 万条标注样本上提升了逾 10%。我们通过针对数千名 IDE 自动补全用户的 A/B 测试，在在线设定中确认了这些预训练的实际影响，发现预训练带来了高达 6.63% 的自动补全使用率增长。
引用
@article{arxiv.2105.05991,
title = {Improving Code Autocompletion with Transfer Learning},
author = {Wen Zhou and Seohyun Kim and Vijayaraghavan Murali and Gareth Ari Aye},
journal= {arXiv preprint arXiv:2105.05991},
year = {2021}
}