机器学习训练的碳足迹将先趋平后缩减
机器学习
2022-04-12 v1 人工智能
综合文献
摘要
机器学习(ML)工作负载的重要性迅速增长,但也引发了对其碳足迹的担忧。四项最佳实践可将 ML 训练能耗降低至多 100 倍,将 CO2 排放降低至多 1000 倍。通过遵循最佳实践,过去三年中 Google 整体 ML 能耗(涵盖研究、开发和部署)稳定在其总能耗的 15% 以下。如果整个 ML 领域都采用最佳实践,训练产生的总碳排放将会减少。因此,我们建议 ML 论文明确列出排放量,以促进在模型质量之外的更多维度上的竞争。未列出排放量的论文中的估算偏差达 100 倍至 100,000 倍,因此公布排放量还有确保核算准确的额外好处。鉴于气候变化的重要性,我们必须把数字算对,以确保我们致力于其最重大的挑战。
引用
@article{arxiv.2204.05149,
title = {The Carbon Footprint of Machine Learning Training Will Plateau, Then Shrink},
author = {David Patterson and Joseph Gonzalez and Urs Hölzle and Quoc Le and Chen Liang and Lluis-Miquel Munguia and Daniel Rothchild and David So and Maud Texier and Jeff Dean},
journal= {arXiv preprint arXiv:2204.05149},
year = {2022}
}