中文

面向软件工程的高效绿色大型语言模型:文献综述、愿景与未来之路

软件工程 2024-12-05 v4

摘要

大型语言模型(LLM)最近在各种软件工程任务中展现出卓越的能力,推动了软件工程大型语言模型(LLM4SE)领域的快速增长。然而,对于开发需要最小计算成本、时间和内存资源的高效LLM4SE技术,以及减少能耗、水耗和碳排放的绿色LLM4SE解决方案,关注有限。本文旨在将研究社区的焦点转向LLM4SE的效率和绿色性,同时分享实现这一目标的潜在研究方向。本文首先简要概述了LLM4SE的重要性,并强调了高效绿色LLM4SE解决方案的必要性。随后,本文展望了一个未来,其中高效绿色LLM4SE将彻底改变基于LLM的软件工程工具格局,惠及包括行业、个人从业者和社会在内的各种利益相关者。然后,本文描绘了未来研究的路线图,概述了具体的研究路径和潜在解决方案,供研究社区追求。虽然本文无意作为权威指南,但旨在激发进一步进展,最终目标是使高效绿色LLM4SE成为软件工程未来的核心要素。

关键词

引用

@article{arxiv.2404.04566,
  title  = {Efficient and Green Large Language Models for Software Engineering: Literature Review, Vision, and the Road Ahead},
  author = {Jieke Shi and Zhou Yang and David Lo},
  journal= {arXiv preprint arXiv:2404.04566},
  year   = {2024}
}

备注

Accepted by ACM Transactions on Software Engineering and Methodology (TOSEM), 23 pages