能量感知的DNN图优化
机器学习
2026-01-27 v2 机器学习
摘要
与现有针对推理性能的深度神经网络（DNN）图优化工作不同，我们探索用于功耗和资源受限机器学习设备的能量感知与节能的DNN图优化。我们提出一种方法，允许用户优化DNN图的能量消耗或在能量与推理性能之间取得平衡。该方法高效地搜索等价图空间，并识别出执行代价最小的图及相应算法。我们实现了该方法并在基于GPU的机器上用多个DNN模型进行了评估。结果表明，我们的方法实现了显著的节能，即在性能影响可忽略的情况下节能24%。
引用
@article{arxiv.2005.05837,
title = {Energy-Aware DNN Graph Optimization},
author = {Yu Wang and Rong Ge and Shuang Qiu},
journal= {arXiv preprint arXiv:2005.05837},
year = {2026}
}
备注
Accepted paper at Resource-Constrained Machine Learning (ReCoML) Workshop of MLSys 2020 Conference, Austin, TX, USA, 2020