基于 LLM 和具象化知识图谱的服务机器人安全控制
机器人学
2025-11-27 v2 人工智能
摘要
服务机器人在各行业的安全局限性引发了关于确保机器人遵循安全实践、防止对人类或财产造成伤害的必要性。尽管已取得进展，包括将知识图谱 (KG) 与大语言模型 (LLM) 的集成，但在确保自主机器人行为持续安全方面仍面临挑战。本文提出了一种将大语言模型与具象化机器人控制提示 (ERCPs) 和具象化知识图谱 (EKGs) 集成的新方法，以增强服务机器人的安全框架。ERCPs 设计为确保 LLM 生成安全且精确的响应。这些响应随后由 EKGs 验证，提供全面的知识库，确保机器人的动作持续符合安全规范，从而在各种情境中促进更安全的运行。我们的实验设置涉及多种真实任务，表明配备我们方法的数据机器人在遵守安全标准方面显著高于传统方法。该集成促进了人机交互的安全，并将我们的 methodology置于服务机器人 AI 驱动安全创新的最前沿。
引用
@article{arxiv.2405.17846,
title = {Safety Control of Service Robots with LLMs and Embodied Knowledge Graphs},
author = {Yong Qi and Gabriel Kyebambo and Siyuan Xie and Wei Shen and Shenghui Wang and Bitao Xie and Bin He and Zhipeng Wang and Shuo Jiang},
journal= {arXiv preprint arXiv:2405.17846},
year = {2025}
}