协同单纯形：面向安全关键自主系统的协作运行时保证
机器学习
2026-05-12 v1 系统与控制
系统与控制
摘要
自主系统日益依赖用于感知和控制的机器学习 (ML) 组件，如在自动驾驶车辆中的感知和控制。虽然 ML 具备必不可少的能力，但不可避免地表现出长尾故障，使其不适用于安全关键任务。运行时保证 (RTA) 通过将 ML 组件与可验证安全监控器配对来缓解这一问题，例如 Control Simplex 和 Perception Simplex 架构。然而，安全监控器的有限性能仍是主要瓶颈。协同单纯形 (SS) 架构通过使 ML 组件和安全监控器实现双向集成，提升了系统性能，同时保持形式化安全保证。本文的核心创新在于允许安全监控器使用 ML 输出，这在 RTA 系统中通常被禁止。我们形式化地推导了该集成在保持安全性方面的条件，并展示了性能优势。我们呈现了 SS 用于自动驾驶车辆障碍检测的设计、分析和评估。
引用
@article{arxiv.2605.08190,
title = {Synergistic Simplex: Cooperative Runtime Assurance for Safety-Critical Autonomous Systems},
author = {Ayoosh Bansal and Mikael Yeghiazaryan and Artyom Khachatryan and Tianyi Zhu and Hunmin Kim and Naira Hovakimyan and Lui Sha},
journal= {arXiv preprint arXiv:2605.08190},
year = {2026}
}