面向学习使能系统的分层类HAZOP安全分析方法
软件工程
2022-06-22 v1 系统与控制
系统与控制
摘要
危险与可操作性分析（HAZOP）是一种强大的安全分析技术，在工业过程控制领域有着悠久的历史。随着机器学习（ML）组件在信息物理系统中（即所谓的学习使能系统（LESs））的日益广泛使用，近期出现了将类HAZOP分析应用于LESs的趋势。尽管其展现出保留充分且系统化安全分析能力的巨大潜力，但ML的新特性带来了新的技术挑战，需要对传统HAZOP技术进行改造。为此，我们提出了一种面向LESs的新型分层类HAZOP方法（HILLS）。为应对LESs的复杂性，HILLS首先通过分层将整个系统划分为三个层级来实现“分而治之”，随后在各层级上开展HAZOP以识别（潜在）危险、成因、安全威胁与缓解措施（采用新节点与引导词）。最后，HILLS尝试通过定性与定量方法，在三个层级内部及跨层级间链接并传播上述已识别要素之间的因果关系。我们通过自主水下航行器的案例研究检验并阐释了HILLS的效用，并就假设及对实际应用的扩展进行了讨论。HILLS作为首个明确考虑ML内部行为及其与其他组件交互的LESs类HAZOP尝试，不仅揭示了为LESs开展安全分析的固有困难，也展现出应对这些困难的良好潜力。
引用
@article{arxiv.2206.10216,
title = {A Hierarchical HAZOP-Like Safety Analysis for Learning-Enabled Systems},
author = {Yi Qi and Philippa Ryan Conmy and Wei Huang and Xingyu Zhao and Xiaowei Huang},
journal= {arXiv preprint arXiv:2206.10216},
year = {2022}
}
备注
Accepted by the AISafety2022 Workshop at IJCAI2022. To appear in a volume of CEUR Workshop Proceedings