大型语言模型能否通过热启动改善 SE 活动学习？
软件工程
2025-01-03 v1
摘要
当 SE 数据稀缺时，"活跃学习者"使用从数据中微小样本学习的模型来查找下一个最具信息性的示例进行标注。通过这种方式，可以使用极少的数据生成有效的模型。对于多目标软件工程 (SE) 任务，活跃学习可以从有效的初始猜测集合（也称为"热启动"）中受益。本文探讨了使用大型语言模型 (LLM) 创建热启动的问题。这些结果与高斯过程模型和树形Parzen估计器进行比较。对于 49 个 SE 任务，LLM 生成的热启动显著改进了低维和中维任务的性能。然而，LLM 在高维问题中的有效性下降，其中像高斯过程模型这样的贝叶斯方法表现最佳。
引用
@article{arxiv.2501.00125,
title = {Can Large Language Models Improve SE Active Learning via Warm-Starts?},
author = {Lohith Senthilkumar and Tim Menzies},
journal= {arXiv preprint arXiv:2501.00125},
year = {2025}
}