信息物理系统黑盒安全验证算法综述
机器学习
2021-10-15 v3 人工智能
系统与控制
系统与控制
机器学习
摘要
自主信息物理系统（CPS）可提升安全关键应用的安全性和效率，但在部署前需要严格测试。这些系统的复杂性通常排除了形式化验证的使用，且在开发过程中真实世界测试可能过于危险。因此，已开发出基于仿真的技术，将待测系统视为在仿真环境中运行的黑盒。安全验证任务包括寻找导致系统失效的环境扰动（证伪）、寻找最可能失效的情况，以及估计系统失效的概率。受安全关键人工智能普遍存在的推动，本工作提供了针对 CPS 的最先进安全验证技术综述，重点关注应用算法及其针对安全验证问题的改进。我们在优化、路径规划、强化学习和重要性采样领域提出并讨论了算法。给出了问题分解技术以帮助将算法扩展到大型状态空间，这对 CPS 而言很常见。简要概述了安全关键应用，包括自动驾驶车辆与飞机防撞系统。最后，我们给出了现有学术与商用安全验证工具的综述。
引用
@article{arxiv.2005.02979,
title = {A Survey of Algorithms for Black-Box Safety Validation of Cyber-Physical Systems},
author = {Anthony Corso and Robert J. Moss and Mark Koren and Ritchie Lee and Mykel J. Kochenderfer},
journal= {arXiv preprint arXiv:2005.02979},
year = {2021}
}