LLM与知识图谱如何助力机器人安全？一种少样本学习方法
机器人学
2024-12-17 v1 人工智能
摘要
大语言模型（LLM）正通过使机器人能够理解并执行自然语言指令来变革机器人领域。LLM的核心优势在于基于所提供的知识，处理来自技术手册、指令、学术论文和用户查询的文本数据。然而，在未经安全验证的情况下将LLM生成的代码部署到机器人系统中会带来重大风险。本文概述了一个安全层，该层在执行ChatGPT生成的代码以在模拟环境中控制无人机之前，对其进行验证。该安全层由一个使用少样本学习微调的GPT-4o模型组成，并由知识图谱提示（KGP）提供支持。我们的方法提高了机器人动作的安全性和合规性，确保其遵守无人机操作规程。
引用
@article{arxiv.2412.11387,
title = {How Can LLMs and Knowledge Graphs Contribute to Robot Safety? A Few-Shot Learning Approach},
author = {Abdulrahman Althobaiti and Angel Ayala and JingYing Gao and Ali Almutairi and Mohammad Deghat and Imran Razzak and Francisco Cruz},
journal= {arXiv preprint arXiv:2412.11387},
year = {2024}
}