LLM 时代文学编程的复兴：增强大规模项目中基于 LLM 的代码生成
软件工程
2025-02-26 v1 机器学习
摘要
大语言模型（LLM）通过代码生成、理解和修复帮助程序员提高了效率。然而，由于复杂的相互依赖关系和现代代码库的庞大规模，它们在大规模项目中的应用仍然具有挑战性。尽管 Knuth 的文学编程（LP）概念将代码和自然语言结合起来传达逻辑和意图，但其增强大型项目中关系的潜力尚未得到充分探索。在本研究中，我们引入了可互操作 LP（ILP）的理念，利用文学编程原则来增强 LLM 在小规模文档和大规模项目开发中的能力。我们研究了 LLM 在面向文档任务和整个项目的 ILP 风格指令下的表现。认识到许多研究人员依赖结构良好的模板来指导 LLM，我们提出了一种简洁的提示工程方法来编写 LP 文档，以便 LLM 能更好地参与代码生成。我们还在 RepoBench 基准上检验了各种 LLM 生成 Scheme 和 Python 代码的能力，展示了我们方法的优势。我们的研究结果表明，带有 LLM 的 ILP 可以增强大规模项目开发中基于 LLM 的代码生成。
引用
@article{arxiv.2502.17441,
title = {Renaissance of Literate Programming in the Era of LLMs: Enhancing LLM-Based Code Generation in Large-Scale Projects},
author = {Wuyang Zhang and Yansong Li and Zeyu Dong and Yu Wu and Yingyao Zhou and Duolei Wang and Songsirou Xing and Chichun Zhou and Da Shen},
journal= {arXiv preprint arXiv:2502.17441},
year = {2025}
}