DynaMIC：动态多模态嵌入式机器人反事实抵抗能力
机器人学
2025-09-30 v1 人机交互
摘要
基于自然语言的大预训练模型的出现为机器人开发注入了新动力。大量研究将大型模型集成到机器人系统中，利用大型模型在语义理解与生成方面的强大能力，通过自然语言指令逐步促进机器人控制。然而，我们发现严格遵循人类指令的机器人，尤其是包含误导性信息的指令，可能在任务执行期间遇到错误，进而可能引发安全风险。这类似于自然语言处理 (NLP) 中的反事实概念，但在机器人研究中尚未引起广泛关注。为此，本文提出由误导性人类指令引发的指令反事实 (DCF)，并介绍 DynaMIC 框架，用于生成机器人任务流程以识别 DCF 并主动向人类反馈。此能力有助于机器人敏感于任务内潜在的 DCF，从而提高执行过程的可靠性。我们进行了语义水平的实验和消融研究，展示了该框架的有效性。
引用
@article{arxiv.2509.24413,
title = {DynaMIC: Dynamic Multimodal In-Context Learning Enabled Embodied Robot Counterfactual Resistance Ability},
author = {Tianqiang Yan and Ziqiao Lin and Sicheng Wang and Tianwei Zhang and Zhenglong Sun},
journal= {arXiv preprint arXiv:2509.24413},
year = {2025}
}