FROST：面向高能效 AI-on-5G 平台——一项 GPU 功耗限制评估
机器学习
2023-10-18 v1 网络与互联网体系结构
摘要
开放无线接入网（O-RAN）是一个新兴的市场，预计未来几年将增长。RAN 对网络具有最高的资本支出（CAPEX）影响，最重要的是，其消耗了总能耗的 73%。这使其成为通过集成机器学习（ML）进行优化的理想目标。然而，在此类生态系统中，ML 的能耗常被忽视。我们的工作通过提出 FROST——具备在线系统调优的灵活重配置方法（Flexible Reconfiguration method with Online System Tuning）——来解决这一关键问题，这是一种符合 O-RAN 规范与原则、具有能耗意识的 ML 流水线解决方案。FROST 能够对 ML 流水线的能耗进行剖析并相应优化硬件，从而限制功率消耗。我们的研究结果表明，FROST 可在不损害模型精度或引入显著时延的情况下实现高达 26.4% 的节能。
引用
@article{arxiv.2310.11131,
title = {FROST: Towards Energy-efficient AI-on-5G Platforms -- A GPU Power Capping Evaluation},
author = {Ioannis Mavromatis and Stefano De Feo and Pietro Carnelli and Robert J. Piechocki and Aftab Khan},
journal= {arXiv preprint arXiv:2310.11131},
year = {2023}
}
备注
IEEE CSCN 2023, Munich, Germany