中文

具象化导航的安全性:综述

人工智能 2025-08-11 v1 机器人学

摘要

随着大型语言模型 (LLM) 的不断进步和影响力提升,具象化 AI 的开发也加速,尤其在导航场景中引起广泛关注。具象化导航要求智能体在陌生环境中感知、与之交互并适应,以到达指定目标。然而,将具象化导航集成到关键应用中提出了重大的安全问题。鉴于其在动态真实环境中的部署,确保此类系统的安全性至关重要。本综述从多个角度全面分析了具象化导航的安全问题,涵盖攻击策略、防御机制和评估方法论。除了全面审视现有安全挑战、缓解技术以及各种数据集和指标以评估效果和鲁棒性外,我们还探讨了具象化导航安全的未解决问题和未来研究方向,包括潜在攻击方法、缓解策略、更可靠的评估技术以及验证框架的实现。通过解决这些关键性空白,本综述旨在为未来研究提供有价值的见解,以指导开发更安全、更可靠的具象化导航系统。此外,本研究的发现对增强社会安全和提高产业效率具有更广泛的意义。

关键词

引用

@article{arxiv.2508.05855,
  title  = {Safety of Embodied Navigation: A Survey},
  author = {Zixia Wang and Jia Hu and Ronghui Mu},
  journal= {arXiv preprint arXiv:2508.05855},
  year   = {2025}
}