测量云实例中人工智能的碳强度

通过提供前所未有的计算资源访问能力，云计算推动了机器学习等技术的快速增长，而机器学习的计算需求带来了高昂的能源成本及相应的碳足迹。因此，近期学界呼吁更好地估算人工智能的温室气体影响：当今的数据科学家不易或可靠地获取此类信息的测量值，阻碍了可操作策略的制定。向用户呈现软件碳强度信息的云提供商是最小化排放的基本垫脚石。在本文中，我们提供了一个测量软件碳强度的框架，并提议通过使用基于位置和特定时间的每能量单位边际排放数据来测量运营碳排放。我们提供了一组现代自然语言处理和计算机视觉模型及广泛模型规模（包括一个 61 亿参数语言模型的预训练）的运营软件碳强度测量值。随后我们在 Microsoft Azure 云计算平台上评估了一系列减少排放的方法：使用不同地理区域的云实例、在一天中不同时间使用云实例，以及在边际碳强度高于某一阈值时动态暂停云实例。我们确认了先前结果，即数据中心所在地理区域对给定云实例的碳强度有显著影响，并发现选择合适的区域可带来最大的运营减排效果。我们还表明一天中的时间对运营软件碳强度有显著影响。最后，我们就机器学习从业者如何使用软件碳强度信息来减少环境影响给出建议。