迈向 NLP 模型能量的准确可靠测量
计算与语言
2020-10-13 v1
摘要
在选择和训练大规模 NLP 模型时，准确可靠的能量消耗测量对于做出明智的设计选择至关重要。在本工作中，我们表明现有的基于软件的能量测量是不准确的，因为它们未考虑硬件差异以及资源利用率如何影响能量消耗。我们使用四种不同模型针对问答任务进行了能量测量实验。我们通过提供高精度能量测量的硬件功率计量化了现有基于软件的能量测量的误差。我们的核心结论是，需要一种更准确的能量估计模型，该模型考虑硬件可变性与资源利用率和能量消耗之间的非线性关系。我们在 https://github.com/csarron/sustainlp2020-energy 发布了代码与数据。
引用
@article{arxiv.2010.05248,
title = {Towards Accurate and Reliable Energy Measurement of NLP Models},
author = {Qingqing Cao and Aruna Balasubramanian and Niranjan Balasubramanian},
journal= {arXiv preprint arXiv:2010.05248},
year = {2020}
}
备注
Accepted to SustaiNLP 2020 (co-located with EMNLP 2020)