Prompt 工程及其对大型语言模型能源消耗的影响
软件工程
2025-10-13 v1
摘要
降低基于 AI 的软件系统环境影响已成为关键任务。大型语言模型（LLM）在软件工程中的广泛使用对计算资源、数据中心及碳排放提出了严峻挑战。本文探讨了 prompt 工程技术（PET）对 Llama 3 模型在代码生成任务中碳排放的影响。我们使用 CodeXGLUE 基准对能源消耗与生成代码的准确性进行评估，采用隔离测试环境。我们的初始结果表明，通过使用区分不同 prompt 部分的特定标签，可降低 LLM 的能源消耗。尽管需要更深入的评估来确认我们的发现，但本工作表明，prompt 工程可在不牺牲性能的前提下降低 LLM 推理阶段的能源消耗，为进一步调查开辟了道路。
引用
@article{arxiv.2501.05899,
title = {Prompt engineering and its implications on the energy consumption of Large Language Models},
author = {Riccardo Rubei and Aicha Moussaid and Claudio di Sipio and Davide di Ruscio},
journal= {arXiv preprint arXiv:2501.05899},
year = {2025}
}