大语言模型在移动机器人边缘端部署
机器人学
2024-10-11 v3
摘要
本文考察了通过应用自然语言处理(NLP)和大语言模型(LLM)实现人机交互的可行性，用于移动机器人。本工作旨在探索这些技术在边缘端部署方面的可行性，其中消除了对云端的依赖。本研究特别对比了需要云端连接的 GPT-4-Turbo 与离线就绪的、量化后的 LLaMA 2(LLaMA 2-7B.Q5 K M)。结果表明，GPT-4-Turbo 在准确解释和执行复杂命令方面表现优异，而 LLaMA 2 在命令执行的一致性和可靠性方面存在显著局限。通过树莓派 Pico W 实现控制计算机与移动机器人之间的通信，该设备无需互联网连接即可接收计算机发出的命令，并通过有线方式传输至机器人的 Arduino 控制器。该研究揭示了在边缘端实施 LLM 和 NLP 的潜力与挑战，为未来研究开发完全自主且网络独立的机器人系统奠定了基础。更多演示视频和源码请参考：https://tinyurl.com/MobileRobotGPT4LLaMA2024。
引用
@article{arxiv.2405.17670,
title = {Deployment of Large Language Models to Control Mobile Robots at the Edge},
author = {Pascal Sikorski and Leendert Schrader and Kaleb Yu and Lucy Billadeau and Jinka Meenakshi and Naveena Mutharasan and Flavio Esposito and Hadi AliAkbarpour and Madi Babaiasl},
journal= {arXiv preprint arXiv:2405.17670},
year = {2024}
}