能感知的大语言模型：面向下游应用的可持续 AI 步骤
性能
2026-04-29 v1 人工智能
计算与语言
机器学习
摘要
大型语言模型 (LLM) 在包括通信网络在内的多个领域取得了突破，催生了新应用和服务，显著提升了解决方案方案。尽管有着这些惊人的发展，但大多数 LLM 需要巨大的计算资源，导致能源消耗极高。因此，本研究提出了一个 end-to-end pipeline，用于探讨 LLM 在通信网络故障 ticket 分析期间能源效率与模型性能之间的权衡。进一步使用两个真实世界的数据集评估 pipeline 的性能，用于通信网络中的根因分析和响应反馈。我们的结果表明，合适的量化和剪枝技术组合能够在显著提高模型性能的同时降低能源消耗。
引用
@article{arxiv.2503.17783,
title = {Energy-Aware LLMs: A step towards sustainable AI for downstream applications},
author = {Nguyen Phuc Tran and Brigitte Jaumard and Oscar Delgado},
journal= {arXiv preprint arXiv:2503.17783},
year = {2026}
}
备注
This work has been submitted to V. International Conference on Electrical, Computer and Energy Technologies (ICECET 2025) for possible publication