你的服务在极端边缘如何可靠？计算可靠性的分析模型

极端边缘计算（XEC）将流式工作负载分布到消费级设备上，利用这些设备靠近用户且随时可用性的特性。许多此类工作负载是 AI 驱动的，需要执行持续的神经网络推理任务，如目标检测和视频分析。分布式推理（DI）通过在多个边缘设备上分割模型执行，使这些流式服务能够满足严格的吞吐量和延迟要求。然而，消费级设备因竞争性应用程序和不可预测的使用模式而表现出计算可用性的波动性。这种波动性提出了一个根本性挑战：我们如何量化设备或设备组合维持由流式服务所需处理速率的概率？本文提出了一种针对 XEC 中计算可靠性的分析框架，定义为在给定服务质量（QoS）阈值下，瞬时容量满足需求的概率。我们在两种信息体制下推导闭式可靠性表达式：最小信息（MI），仅要求声明的操作界限；以及历史数据，通过最大似然估计从过去观察中细化估计。该框架扩展到多设备部署，提供系列、并行和分区工作负载配置的可靠性表达式。我们推导最优工作负载分配规则和设备选择的分析界限，使编排器能够使用可计算的工具来评估部署可行性并配置分布式流式系统。我们使用代表性 DI 流式工作负载的 YOLO11m 模型进行实时目标检测；在模拟的 XED 环境中实验表明，分析预测、蒙特卡洛抽样和实测数据在多样化的容量和需求配置下表现良好。