ReSonAte：一种面向自治系统的运行时风险评估框架
机器人学
2021-03-25 v2
摘要
自治信息物理系统（CPSs）常被要求处理不确定性，并针对运行范式中的问题和日益增长的风险自我管理系统运行。此类风险可能源于分布偏移、环境上下文或软硬件组件故障。传统的风险评估技术侧重于设计期技术，如危害分析、风险降低和保证案例等。然而，这些静态的设计期技术未考虑系统在运行时面临的动态上下文与故障。我们假设这需要一种动态保证方法，该方法结合安全需求、设计期所做的假设、给定运行上下文中的过往故障以及系统组件故障的可能性，来计算不安全条件或系统故障的可能性。我们引入了面向自治系统的 ReSonAte 动态风险估计框架。ReSonAte 基于蝴蝶结图（BTDs）进行推理，BTDs 捕获关于危害传播路径与控制策略的信息。我们的创新在于扩展了 BTD 形式化，加入用于建模与系统及环境状态之间条件关系的属性。我们还描述了一种估计这些条件关系的技术，以及基于系统与环境状态估计风险的公式。为辅助此过程，我们提供了一种场景建模流程，可利用场景与威胁条件的先验分布生成估计条件关系所需的数据。为提升可扩展性并减少所需数据量，该过程将每个控制策略孤立考虑，并将若干单变量分布组合为该控制策略的一个完整多变量分布。
引用
@article{arxiv.2102.09419,
title = {ReSonAte: A Runtime Risk Assessment Framework for Autonomous Systems},
author = {Charles Hartsell and Shreyas Ramakrishna and Abhishek Dubey and Daniel Stojcsics and Nagabhushan Mahadevan and Gabor Karsai},
journal= {arXiv preprint arXiv:2102.09419},
year = {2021}
}
备注
Accepted as long paper at SEAMS 2021