加速悖论：重新思考具身任务中的推理速度-质量权衡

具身基础模型最近被广泛用于提高机器人的泛化能力和任务成功率。先前的工作应用了量化、剪枝和异步推理等有损高效推理技术，以接受小幅的动作质量下降来换取更低的单步计算成本和动作间延迟。然而，与传统的静态机器学习任务不同，具身任务涉及与环境的反复交互，任务级性能不仅取决于单步成本，还取决于具身执行特有的闭环效应，而当前的高效推理研究对这些效应的刻画尚不充分。在本工作中，我们提出了 TISED（任务级推理加速效应分解），这是一个统一多种有损推理优化技术并分解其对静态和动态任务影响的分析框架，并揭示了对任务级性能的一些悖论效应：(1) 在静态任务上，即使单步延迟下降，优化有时也会延长端到端的单任务完成时间；(2) 在动态任务上，适度的有损优化甚至可以将任务成功率提高到基线之上；(3) 两种效应的单调性和最佳点位置会随硬件配置而转移。总而言之，我们的发现为将推理优化技术应用于具身任务提供了新的视角。