面向低延迟无线机器人的动作偏差感知推理
机器人学
2025-11-07 v2 分布式、并行与集群计算
摘要
为支持从自动驾驶到工业机器人操作等延迟敏感型AI应用，6G设想了通过超可靠低延迟通信(HRLLC)连接移动、边缘和云端的分布式ML。在这一设置中，推测解码可促进分布式部署模型的协作推理：一个轻量级设备端模型本地生成草稿，同时一个能力更强的远程目标模型在服务器上并行验证和纠正它们，通过推测采样实现更低延迟而不损害准确性。然而，与自回归文本生成不同，通常用于具身AI应用的行为克隆策略无法对多个草稿并行进行验证和纠正，因为每个生成的动作都依赖于前一个动作更新的观测。为此，我们提出了动作偏差感知混合推理(ADAHI)，其中草稿基于动作偏差进行选择性传输和验证，动作偏差与目标模型对动作的拒绝概率具有强相关性。通过仅在必要时调用服务器操作，可以减少通信和计算开销，同时保留推测采样带来的精度增益。我们测试平台上的实验表明，ADAHI减少了约40%的传输和服务器操作，降低了39.2%的端到端延迟，并达到了基线(对每个草稿嵌入向量调用推测采样)97.2%的任务成功率。
引用
@article{arxiv.2510.02851,
title = {Action Deviation-Aware Inference for Low-Latency Wireless Robots},
author = {Jeyoung Park and Yeonsub Lim and Seungeun Oh and Jihong Park and Jinho Choi and Seong-Lyun Kim},
journal= {arXiv preprint arXiv:2510.02851},
year = {2025}
}