EdgeNav-QE:面向基于LAMB的边缘设备导航的QLoRA量化与动态早期退出
机器人学
2026-02-19 v1 人工智能
摘要
大型动作模型 (LAM) 在通过桥接高层推理与低层控制实现自主导航方面显示出巨大的潜力。然而,在边缘设备上部署这些多数十亿参数的模型仍是一个重大挑战,due to内存限制和延迟要求。在本文中,我们提出EdgeNav-QE,一个新型框架,将量化低秩适应 (QLoRA) 与动态早期退出 (DEE) 机制集成,以优化LAMB用于实时边缘导航。通过将主干量化为4位精度并 strategically 放置早期退出分支,使模型能够为简单导航任务提前终止推理,同时保留复杂决策的完整深度。在Habitat-Sim环境中使用Matterport3D数据集的OpenVLA-7B主干上进行的实验显示,EdgeNav-QE将推理延迟降低82.7%,内存占用降低66.7%,而保持81.8%的导航成功率。此外,它在延迟上比最先进的静态早期退出方法高出17.9%,显示出面向安全关键应用的内容感知自适应计算的优势。
引用
@article{arxiv.2602.15836,
title = {EdgeNav-QE: QLoRA Quantization and Dynamic Early Exit for LAM-based Navigation on Edge Devices},
author = {Mengyun Liu and Shanshan Huang and Jianan Jiang},
journal= {arXiv preprint arXiv:2602.15836},
year = {2026}
}