绿色提示工程：大语言模型推理提示驱动能耗特征

大语言模型 (LLM) 已在搜索引擎、代码生成和文本创建等多个领域广泛采用。然而，其采用最大的顾虑之一是推理成本的高昂，这影响其可持续性和财务可行性。本研究探索了不同提示和响应特征如何直接影响 LLM 推理能耗。我们利用三个开源基于 transformer 的 LLM，对三种任务类型（问答、情感分析和文本生成）进行实验。对于每一次推理，我们分析了提示和响应特征（长度、语义意义、耗时、能耗）。我们的结果表明，即使面对相同的任务，模型生成的响应特征各不相同，随后呈现出不同的能耗模式。我们发现，提示长度不如任务语义意义重要。此外，我们识别出与更高或更低能耗关联的特定关键词，这些关键词因任务而异。这些发现凸显了提示设计在优化推理效率方面的重要性。我们得出结论，提示的语义意义和特定任务相关的关键词显著影响推理成本，为向更深入的能源自适应 LLM 探索铺平了道路。