云与 AI 基础设施成本优化:策略与案例研究综述
分布式、并行与集群计算
2026-01-28 v2 计算工程、金融与科学
系统与控制
综合经济学
系统与控制
经济学
摘要
云计算彻底改变了组织管理其 IT 基础设施的方式,但也带来了新的挑战,例如云成本管理。人工智能(AI)与机器学习(ML)工作负载的快速采用进一步放大了这些挑战,对于以 AI 为重点的组织,GPU 计算现已占技术预算的 40-60%。本文对云与 AI 基础设施成本优化技术进行了全面综述,涵盖传统云定价模型、资源分配策略,以及管理 AI/ML 工作负载的新兴方法。我们考察了大型语言模型(LLM)推理成本的急剧下降——自 2021 年以来每年约降低 10 倍——并探讨模型量化、GPU 实例选择与推理优化等技术。来自 Amazon Prime Video、Pinterest、Cloudflare 与 Netflix 的真实案例研究展示了这些技术的实际应用。我们的分析表明,组织通过战略性优化方法可实现 50-90% 的成本节约。本文提出了自动化优化、可持续性与 AI 专用成本管理方面的未来研究方向,以推进这一快速发展领域的先进水平。
引用
@article{arxiv.2307.12479,
title = {Cloud and AI Infrastructure Cost Optimization: A Comprehensive Review of Strategies and Case Studies},
author = {Saurabh Deochake},
journal= {arXiv preprint arXiv:2307.12479},
year = {2026}
}
备注
Version 2. Significantly expanded to include AI/ML infrastructure and GPU cost optimization. Updated with 2025 industry data and new case studies on LLM inference costs. Title updated from "Cloud Cost Optimization: A Comprehensive Review of Strategies and Case Studies" to reflect broader scope