ARGOS：基于属性引导的组合推理自动功能安全需求综合
机器人学
2026-02-10 v1
摘要
确保Embodied AI在复杂开放世界环境中的功能安全是其部署的关键。然而，传统的危险分析与风险评估(HARA)方法在此领域难以扩展。HARA依赖于为有限且预定义的功能列表枚举风险，而Embodied AI operates on open-ended natural language instructions， creating a challenge of combinatorial interaction risks。虽然大型语言模型(LLM)作为解决这一可扩展性挑战的有前景的方案，但它们常缺乏物理 grounding，导致产生语义浅显且不连贯的危险描述。为克服这些限制，我们提出一种新框架ARGOS(AttRibute-Guided cOmbinatorial reaSoning)，该框架桥接了开放式用户指令与具体物理属性之间的差距。通过动态将实体从指令分解为这些细粒度属性，ARGOS将LLM推理 grounded in causal risk factors，以生成物理上合理的危险情景。它 then 将抽象安全标准(如ISO 13482)整合到具体的功能安全需求(FSR)中，通过将这些情景与机器人能力相结合来实现。广泛的实验表明，ARGOS能够产生高质量的FSR，并在识别长尾风险方面优于基线方法。总体而言，本 work 为系统化且 grounded 的功能安全需求生成之路，作为确保Embodied AI安全工业部署的关键步骤。
引用
@article{arxiv.2602.07007,
title = {ARGOS: Automated Functional Safety Requirement Synthesis for Embodied AI via Attribute-Guided Combinatorial Reasoning},
author = {Dongsheng Chen and Yuxuan Li and Yi Lin and Guanhua Chen and Jiaxin Zhang and Xiangyu Zhao and Lei Ma and Xin Yao and Xuetao Wei},
journal= {arXiv preprint arXiv:2602.07007},
year = {2026}
}