ML-EcoLyzer：量化跨框架和硬件的机器学习推理的环境成本
机器学习
2026-03-17 v1 人工智能
计算机视觉与模式识别
人机交互
软件工程
摘要
机器学习推理以大规模进行，但其环境影响，尤其是在低资源硬件上，仍未被充分量化。我们提出了ML-EcoLyzer，一个跨框架的工具，用于测量在CPU、消费级GPU和数据中心加速器上进行推理的碳、能源、热和水成本。该工具支持经典和现代模型，采用自适应监控和硬件感知评估。我们引入了环境可持续性评分（ESS），该评分量化了每克CO₂排放所服务的有效参数数量。我们的评估涵盖了超过1900种推理配置，跨越多种模型架构、任务模态（文本、视觉、音频、表格）、硬件类型和精度级别。这些严格可靠的测量表明，量化增强了ESS，大型加速器对于轻量级应用可能效率低下，即使是小型模型在实现不佳时也可能产生显著成本。ML-EcoLyzer为可持续性意识模型选择设定了标准，并提供了推理过程中环境成本的广泛实证评估。
引用
@article{arxiv.2511.06694,
title = {ML-EcoLyzer: Quantifying the Environmental Cost of Machine Learning Inference Across Frameworks and Hardware},
author = {Jose Marie Antonio Minoza and Rex Gregor Laylo and Christian F Villarin and Sebastian C. Ibanez},
journal= {arXiv preprint arXiv:2511.06694},
year = {2026}
}