看不见的 AI 电网扰动:大语言模型引发的瞬态
硬件体系结构
2024-09-19 v1 人工智能
性能
系统与控制
系统与控制
摘要
大语言模型(LLM)的最新突破在主要行业展现了卓越能力,并刺激了未来 3-5 年对以 AI 为中心的数据中心数千亿美元的投资。这反过来又引发了对可持续性和 AI 相关能源消耗日益增长的担忧。然而,有一个与 AI 模型和基础设施效率同等重要但常被忽视的问题:破坏性的动态功耗行为。AI 基础设施具有极低的惯性、急剧的功率波动以及显著的峰值-空闲功率比,并表现出快速、瞬态的动态特性。功率规模从几百瓦到兆瓦,甚至吉瓦。这些前所未有的特性使 AI 成为一种非常独特的负载,对电网的可靠性和韧性构成威胁。为揭示这一隐藏问题,本文考察了 AI 功耗的规模,分析了 AI 在各种场景下的瞬态行为,建立了描述 AI 工作负载行为的数学模型,并讨论了它们可能给现有电网带来的多方面挑战和机遇。鉴于机器学习和 AI 技术的快速发展,这项工作强调了采用跨学科方法以确保可靠和可持续的 AI 基础设施开发的迫切需要,并为研究人员和从业者应对此类挑战提供了起点。
关键词
引用
@article{arxiv.2409.11416,
title = {The Unseen AI Disruptions for Power Grids: LLM-Induced Transients},
author = {Yuzhuo Li and Mariam Mughees and Yize Chen and Yunwei Ryan Li},
journal= {arXiv preprint arXiv:2409.11416},
year = {2024}
}
备注
21 pages, 18 figures