AIMeter：用于 AI 工作负载能源消耗与碳足迹的测量、分析与可视化工具
分布式、并行与集群计算
2025-10-31 v2 人工智能
机器学习
摘要
AI 的快速发展，尤其是大语言模型（LLM），引发了关于模型训练和推理相关能源消耗和碳排放的广泛关注。然而，现有工具在衡量和报告此类影响方面往往零散，缺乏系统性的指标整合，且对指标之间的相关性分析支持有限。本文提出了 AIMeter，一个综合性软件工具包，用于 AI 工作负载的能源消耗、功率、硬件性能和碳排放的测量、分析和可视化。通过无缝集成到现有 AI 框架中，AIMeter 提供标准化报告，并输出细粒度时间序列数据，以支持轻量级的基准测试和可重复性。它进一步支持硬件指标与模型性能之间的深入相关性分析，从而促进瓶颈识别和性能提升。通过解决现有工具的关键局限性，AIMeter 鼓励研究社区在 AI 工作负载的原始性能之外也权衡其环境影响，推动更可持续的“绿色 AI”实践的发展。代码已公开于 https://github.com/SusCom-Lab/AIMeter。
引用
@article{arxiv.2506.20535,
title = {AIMeter: Measuring, Analyzing, and Visualizing Energy and Carbon Footprint of AI Workloads},
author = {Hongzhen Huang and Kunming Zhang and Hanlong Liao and Kui Wu and Guoming Tang},
journal= {arXiv preprint arXiv:2506.20535},
year = {2025}
}
备注
11 pages, 7 figures and 5 tables