通过细粒度能耗测量增强深度学习的能源意识
机器学习
2024-02-02 v2 人工智能
性能
软件工程
摘要
随着深度学习（DL）模型使用量、规模与复杂度的增长，其迅速增加的能耗已成为关键问题。在不同粒度上推动绿色发展与能源意识是限制DL系统碳排放的当务之急。然而，缺乏用于在细粒度（如方法级）准确测量与优化能耗的标准且可复现的工具，阻碍了该领域的进展。本文介绍FECoM（Fine-grained Energy Consumption Meter，细粒度能耗计量器），一种用于细粒度DL能耗测量的框架。FECoM使研究人员与开发者能从能耗视角剖析DL API。FECoM通过使用静态插桩并考虑包括计算负载与温度稳定性在内的多种因素，解决了细粒度测量能耗的挑战。我们评估了FECoM测量最流行的开源DL框架之一即TensorFlow细粒度能耗的能力。利用FECoM，我们还研究了参数规模与执行时间对能耗的影响，增进了我们对TensorFlow API能耗画像的理解。此外，我们详述了设计与实现细粒度能耗测量工具时需考虑的事项、问题与挑战。本工作将促进DL能耗测量的进一步进展以及DL系统能源意识实践的发展。
引用
@article{arxiv.2308.12264,
title = {Enhancing Energy-Awareness in Deep Learning through Fine-Grained Energy Measurement},
author = {Saurabhsingh Rajput and Tim Widmayer and Ziyuan Shang and Maria Kechagia and Federica Sarro and Tushar Sharma},
journal= {arXiv preprint arXiv:2308.12264},
year = {2024}
}