评估 LoRA 微调对非功能需求分类性能影响的研究
软件工程
2025-03-12 v1
摘要
在软件开发生命周期中，对非功能需求（NFRs）进行分类至关重要。受迁移学习理论的启发，研究人员将强大的预训练模型应用于 NFR 分类。然而，由于涉及的参数数量庞大（例如 GPT-3 中有 1750 亿个可训练参数），通过更新预训练模型所有参数来进行全量微调通常是不切实际的。在本文中，我们将低秩自适应（LoRA）微调方法应用于基于提示学习的 NFR 分类，以研究其影响。实验表明，LoRA 能够显著降低执行成本（降低高达 68%），而分类有效性的损失并不大（仅下降 2%-3%）。结果表明，LoRA 在具有更大数据集和预训练模型的更复杂分类场景中具有实用性。
引用
@article{arxiv.2503.07927,
title = {A Study to Evaluate the Impact of LoRA Fine-tuning on the Performance of Non-functional Requirements Classification},
author = {Xia Li and Allen Kim},
journal= {arXiv preprint arXiv:2503.07927},
year = {2025}
}