生成式AI工作负载功耗特征测量与全设施数据中心基础设施规划
系统与控制
2026-04-09 v1 分布式、并行与集群计算
机器学习
系统与控制
摘要
生成式人工智能(AI)的快速发展带来了前所未有的计算需求，推动数据中心能耗显著增长。然而，现有的功耗数据大多为专有数据，且以不同分辨率报告，给估算全设施能耗和规划基础设施带来挑战。本工作提出一种方法，通过将高分辨率工作负载功耗测量与全设施能源需求相联系来弥合这一差距。利用配备NVIDIA H100 GPU的NLR高性能计算数据中心，我们以0.1秒分辨率测量AI训练、微调和推理任务的功耗。工作负载通过MLCommons基准测试（用于模型训练和微调）和vLLM基准测试（用于推理）进行表征，实现可复现和标准化的工作负载特征分析。功耗特征数据集公开发布。这些功耗特征随后通过自底向上、事件驱动的数据中心能源模型进行全设施级扩展。所得的全设施能源特征捕捉了由AI工作负载和用户行为驱动的真实时间波动，可用于指导电网连接、现场能源发电和分布式微电网的基础设施规划。
引用
@article{arxiv.2604.07345,
title = {Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning},
author = {Roberto Vercellino and Jared Willard and Gustavo Campos and Weslley da Silva Pereira and Olivia Hull and Matthew Selensky and Juliane Mueller},
journal= {arXiv preprint arXiv:2604.07345},
year = {2026}
}
备注
The data associated with this publication can be found at http://doi.org/10.7799/3025227