大语言模型优化：指标、能源效率与案例研究洞察
机器学习
2026-04-14 v2 人工智能
摘要
大语言模型（LLM）的快速采纳导致能源消耗和碳排放显著上升，构为生成式AI技术可持续性的重大挑战。本文探讨在LLM部署中集成能源效率优化技术，以应对这些环境关切。我们提出一种框架和案例研究，展示战略性量化和本地推理技术如何在不牺牲操作有效性的前提下，大幅降低LLM的碳足迹。实验结果表明，这些方法可使能源消耗和碳排放降低最高可达45%，特别适用于资源受限的环境。我们的发现为在保持高水平准确性和响应速度的同时，实现AI的可持续发展提供了可操作的见解。
引用
@article{arxiv.2504.06307,
title = {Optimizing Large Language Models: Metrics, Energy Efficiency, and Case Study Insights},
author = {Tahniat Khan and Soroor Motie and Sedef Akinli Kocak and Shaina Raza},
journal= {arXiv preprint arXiv:2504.06307},
year = {2026}
}