面向学习赋能系统的STPA：综述与新实践
软件工程
2023-07-18 v2
摘要
系统理论过程分析（STPA）是一种系统化的危害分析方法，已应用于包括交通、能源与国防在内的诸多工业领域。在安全关键系统中使用机器学习（ML）的不可阻挡趋势，导致了将STPA扩展至学习赋能系统（LESs）的迫切需求。尽管已针对各类LES实例开展工作，但缺乏系统综述，致使扩展的STPA方法之有效性与通用性不明，且不知能否进一步改进。为此，我们对31篇论文进行系统综述，从五个视角（关注属性、研究对象、修改、衍生与所建模型的过程）加以总结。此外，我们识别出改进空间并相应引入DeepSTPA，其从现行实践缺失的两个方面增强STPA：(i) 显式扩展控制回路结构，以从跨越ML生命周期的数据驱动开发过程中识别危害；(ii) 在ML模型的层级别建模范化细粒度功能，以检测根本原因。我们通过一个自动紧急制动系统的案例研究展示并比较DeepSTPA与STPA。
引用
@article{arxiv.2302.10588,
title = {STPA for Learning-Enabled Systems: A Survey and A New Practice},
author = {Yi Qi and Yi Dong and Siddartha Khastgir and Paul Jennings and Xingyu Zhao and Xiaowei Huang},
journal= {arXiv preprint arXiv:2302.10588},
year = {2023}
}
备注
Accepted by the 26th IEEE Int. Conf. on Intelligent Transportation Systems (ITSC'23), 8 pages