探究大语言模型超参数调优与提示工程在领域建模中的作用
软件工程
2025-07-22 v1
摘要
大语言模型（LLM）的引入提升了软件工程任务中的自动化水平，包括模型驱动工程（MDE）中的领域建模。然而，使用通用型LLM进行领域建模存在局限性。一种方法是采用微调模型，但这需要大量计算资源，且可能导致灾难性遗忘现象。本文探讨了通过超参数调优和提示工程如何提高Llama 3.1模型生成领域模型的准确性。我们采用搜索方法为特定医疗数据模型调优超参数，显著优于基线LLM。在十个多样化应用领域中测试优化后的超参数。尽管解决方案并非在所有领域都通用，但我们展示了将超参数调优与提示工程结合，可在几乎所有所考察的领域模型中提升结果。
引用
@article{arxiv.2507.14735,
title = {Investigating the Role of LLMs Hyperparameter Tuning and Prompt Engineering to Support Domain Modeling},
author = {Vladyslav Bulhakov and Giordano d'Aloisio and Claudio Di Sipio and Antinisca Di Marco and Davide Di Ruscio},
journal= {arXiv preprint arXiv:2507.14735},
year = {2025}
}
备注
Accepted at 51st Euromicro Conference Series on Software Engineering and Advanced Applications (SEAA)