云端计算比你想象的更近：重新审视分布式实时推理的权衡
机器学习
2026-05-04 v1 人工智能
分布式、并行与集群计算
网络与互联网体系结构
摘要
深度神经网络（DNNs）在网络-物理系统（CPS）中的日益增长的部署提升了感知保真度，但对执行平台提出了巨大的计算需求，给实时控制deadline带来了挑战。传统的分布式CPS架构通常倾向于on-device推理，以避免远程平台上网络波动和争用引起的延迟。然而，这种设计选择将巨大的能源和计算需求置于本地硬件。本文重新审视了云端推理固有不适用于延迟敏感控制任务的假设。我们演示了在配备高吞吐计算资源时，云端平台能够有效摊薄网络和排队延迟，使其能够匹配或超越本地性能进行实时决策。具体而言，我们开发了一个形式化分析模型，表征分布式推理延迟作为感知频率、平台吞吐量、网络延迟和任务特定安全约束的函数。我们在紧急制动自主驾驶的上下文中实例化该模型，并通过大量仿真验证（使用真实的车辆动力学）。我们的实证结果识别了云端推理在安全裕度上优于本地方案的具体条件。这些发现挑战了既有的设计策略，表明云端计算不仅是可行的选项，往往是分布式CPS架构的首选推理位置。就此而言，云端计算并不如人们传统所想的那样遥远；事实上，它比想象中更接近。
引用
@article{arxiv.2605.00005,
title = {Cloud Is Closer Than It Appears: Revisiting the Tradeoffs of Distributed Real-Time Inference},
author = {Pragya Sharma and Hang Qiu and Mani Srivastava},
journal= {arXiv preprint arXiv:2605.00005},
year = {2026}
}