基于神经网络的安全关键控制软件的测试与验证：一项系统性文献综述
机器学习
2020-03-23 v2 软件工程
系统与控制
系统与控制
摘要
背景：神经网络(NN)算法已成功应用于若干安全关键信息物理系统(SCCPSs)中。在安全关键领域中，基于 NN 的控制软件的测试与验证(T&V)正受到软件工程与安全工程研究人员及从业者的兴趣和关注。目标：随着安全关键领域中基于 NN 的控制软件 T&V 研究的增多，系统性地回顾最先进的 T&V 方法、对发明的方法与工具进行分类、并识别未来研究的挑战与空白十分重要。方法：我们检索了 950 篇关于基于 NN 的安全关键控制软件(SCCS)的 T&V 论文。为得到结果，我们筛选出 2001 至 2018 年间发表的 83 篇主论文，采用主题分析方法分析从所选论文中提取的数据，给出方法分类并识别挑战。结论：这些方法被归为五个高阶主题：确保 NN 的鲁棒性、确保基于 NN 的控制软件的安全属性、提升 NN 的故障恢复力、度量并保障测试完备性、以及提升 NN 的可解释性。从工业界视角看，提升 NN 的可解释性是安全关键应用中的关键需求。我们还考察了四个主要安全生命周期阶段内的九项安全完整性属性，以探究 IEC 61508-3 中 T&V 目标的实现程度。结果表明，正确性、完备性、无内在故障以及容错已引起研究界最多关注。然而，在实现可重复性方面投入甚少；所综述的研究均未聚焦于精确定义的测试配置或抵御共因故障。
引用
@article{arxiv.1910.06715,
title = {Testing and verification of neural-network-based safety-critical control software: A systematic literature review},
author = {Jin Zhang and Jingyue Li},
journal= {arXiv preprint arXiv:1910.06715},
year = {2020}
}
备注
This paper had been submitted to Journal of Information and Software Technology on April 20, 2019,Revised 5 December 2019, Accepted 6 March 2020, Available online 7 March 2020