Green AI 实践:生产环境中集成模型的战略性模型选择
机器学习
2025-07-01 v2 人工智能
计算机与社会
软件工程
摘要
将人工智能(AI)集成到软件系统中显著提升了其能力,但也加剧了能源需求。集成学习通过结合多个模型的预测以形成单一预测,由于累积的能源消耗,加剧了这一问题。本文提出了一种新颖的模型选择方法,以解决在实时 AI 集成系统中平衡 AI 模型准确率与其能源消耗的挑战。我们探讨了在推理过程中减少模型数量或提高集成中模型使用效率如何在不显著牺牲准确率的情况下降低能源需求。本研究引入并评估了两种模型选择策略,即静态策略和动态策略,以在最小化能源使用的同时优化集成学习系统的性能。结果表明,静态策略将 F1 分数提高到了基线之上,将相对于完整集成的平均能源使用量从 100% 降低至 62%。动态策略进一步提高了 F1 分数,其平均能源使用量占完整集成的 76%,而完整集成为 100%。此外,我们提出了一种平衡准确率与资源消耗的方法,在不显著影响准确率的情况下大幅减少了能源使用。该方法将静态策略的平均能源使用量从约 62% 降低至 14%,将动态策略的平均能源使用量从约 76% 降低至 57%。我们使用一家大型专业服务提供商开发的运营 AI 系统对 Green AI 进行了实地研究,展示了在实时生产环境中采用注重能源的模型选择策略的实用可行性。
引用
@article{arxiv.2405.17451,
title = {Green AI in Action: Strategic Model Selection for Ensembles in Production},
author = {Nienke Nijkamp and June Sallou and Niels van der Heijden and Luís Cruz},
journal= {arXiv preprint arXiv:2405.17451},
year = {2025}
}
备注
10 pages. Accepted at the 1st ACM International Conference on AI-powered Software (AIware), 2024