中文

大模型绿色发展综述:从资源高效架构到软硬件协同设计

机器学习 2026-07-10 v1 计算机与社会

摘要

大规模AI模型的快速扩展已在多个领域带来了显著的性能突破,但也引发了关于计算成本、能源消耗和环境可持续性的关键担忧。本综述全面概述了大模型的绿色发展,强调了资源高效的架构和全栈软硬件协同设计。我们系统回顾了高效模型构建的最新进展,包括注意力算子优化、线性复杂度架构、模型稀疏化与合并,以及训练和部署策略,如数据高效学习、参数高效微调和计算压缩。在算法改进之外,我们探索了节能的AI硬件,包括主流AI芯片、内存优化、跨平台部署和可持续基础设施。此外,我们研究了大模型如何被应用于可持续性关键领域,如DeepSeek、遥感解译、国家级基础设施和全球倡议。最后,我们讨论了关键挑战和未来方向,强调了对持续学习范式、以内存为中心的硬件和标准化评估协议的需求。本综述旨在为可持续、可扩展且对社会负责的大模型发展提供整体路线图。论文主页:https://cje.ejournal.org.cn/article/doi/10.23919/cje.2025.00.438

关键词

引用

@article{arxiv.2607.09084,
  title  = {A Survey on the Green Development of Large Models: From Resource-Efficient Architectures to Hardware-Software Co-Design},
  author = {Linhui Xiao and Guiping Cao and Mingyue Guo and Xianchao Guan and Fan Yang and Ming Tao and Xin Li and Yuxin Peng and Yaowei Wang},
  journal= {arXiv preprint arXiv:2607.09084},
  year   = {2026}
}

备注

This paper has been accepted by CJE (2026), paper homepage: https://cje.ejournal.org.cn/article/doi/10.23919/cje.2025.00.438