中文

XWind:面向可再生能源农场的大型语言模型推理服务交叉站路由

分布式、并行与集群计算 2026-05-25 v1 人工智能 网络与互联网体系结构

摘要

AI功耗正在以前所未有的速度增长,而电网往往废弃,难以跟上。电网扩建高额资本支出且远程传输损耗大,而可再生能源虽 abundant 却与需求不匹配。本文提出一种补充AI基础设施部署模式——AI Greenferencing,将模块化AI计算带到可再生能源来源,专注于风能,实现AI足迹的扩展,为可再生能源设施创造本地后电需求,并缓解电力用户日益增长的压力。我们的可行性分析表明,超过890 GW的风能容量位于Azure数据中心50 ms网络往返时间内,且通过站点规模右划和风能的空间互补性,整体 fleet利用率与传统部署相当。为在可变风能下服务推理请求,我们构建XWind,一种轻量、响应式且与工作负载无关的AI推理路由器,仅使用真实信号:推理延迟、KV-cache利用率和队列深度,动态配置站点并分配请求。在评估中,我们在一个包含64个A100 GPU的真实测试平台上模拟了三个风力发电站,采用Azure生产轨迹进行测试。XWind在P99端到端延迟方面,相较于最强�争者(也是我们方案的一个变体)提升最高52%,相较于如功率限制和GPU空闲等基线方案提升最高98%,在各种工作负载类型、负载水平和GPU代际中均表现出一致的优势。

关键词

引用

@article{arxiv.2605.23348,
  title  = {XWind: A Cross-site Router for Large Language Model Inference Serving at Renewable Energy Farms},
  author = {Tella Rajashekhar Reddy and Atharva Deshmukh and Liangcheng Yu and Chaojie Zhang and Mike Shepperd and Rohan Gandhi and Anjaly Parayil and Srinivasan Iyengar and Ajay Manchepalli and Debopam Bhattacherjee},
  journal= {arXiv preprint arXiv:2605.23348},
  year   = {2026}
}