预算自适应路由：当强模型能回答时跳过弱模型

边缘-云推理协作通常设计有一个路由估计器，决定是否将每一帧从边缘的弱模型卸载到云端的强模型。现有系统将路由估计器放置在弱检测器之后，因此即使对于后来被卸载的帧，弱前向传播仍然运行。在本文中，我们认为当卸载预算变化时，这种弱条件设计可能是次优的。首先，我们提出了一种有竞争力的弱跳过估计器（0.153 GFLOPs，比4.49 GFLOPs的弱检测器轻约29倍），它从原始像素中提取路由信号，优于常见的弱后置弱条件基线。其次，我们表明弱跳过和弱条件放置都不能在整个操作曲线上占主导地位，我们提出了预算自适应路由，通过两个离线调优的阈值根据卸载预算在两者之间进行选择。在PASCAL VOC上，我们的预算自适应路由器在操作范围内追踪了两种固定放置的精度上包络。我们的方法将每帧延迟降低了最多19.1毫秒（在rho = 0.9时约降低30%）。除了优于SOTA方法外，它在某些操作点上出人意料地比强模型更强（比强模型的峰值mAP高1.7个百分点），且计算量少得多。工件可在 https://github.com/ViGeng/bgt-ada 获取。