让AI绿色：探索能源效率级联优化
软件工程
2025-06-24 v1 人工智能
摘要
AI的指数级增长加剧了计算需求和能源挑战。虽然实践者使用各种优化技术来调整模型效率，但我们在本文中称这些为“旋钮”。这些通常是事后且反应性的、孤立应用的变更，缺乏对其对能源效率组合效应的理解。本文强调将能源效率作为第一公民和计算密集型管道的根本设计考虑。我们展示，跨越五个AI管道阶段（数据、模型、训练、系统、推理）的战略选择可创建级联效应。实验验证表明，正交组合可将能源消耗降低最高可达94.6%，同时保持95.95%的非优化管道的原始F1分数。这种精选方法为在平衡能源效率、性能和环境责任方面提供了可操作框架，以实现可持续AI。
引用
@article{arxiv.2506.18289,
title = {Tu(r)ning AI Green: Exploring Energy Efficiency Cascading with Orthogonal Optimizations},
author = {Saurabhsingh Rajput and Mootez Saad and Tushar Sharma},
journal= {arXiv preprint arXiv:2506.18289},
year = {2025}
}
备注
In review