如何认证基于机器学习的安全关键系统？一项系统性文献综述
摘要
背景：近年来，机器学习（ML）一直是许多创新的核心。然而，将其纳入所谓“安全关键”系统（如汽车或航空）已被证明极具挑战性，因为 ML 带来的范式转变完全改变了传统认证方法。目标：本文旨在阐明与基于 ML 的安全关键系统认证相关的挑战，以及文献中提出的应对这些挑战的解决方案，回答“如何认证基于机器学习的安全关键系统？”这一问题。方法：我们对 2015 至 2020 年发表的研究论文进行系统性文献综述（SLR），涵盖与 ML 系统认证相关的主题。总体而言，我们识别出 217 篇论文，涵盖被认为 ML 认证主要支柱的主题：鲁棒性、不确定性、可解释性、验证、安全强化学习以及直接认证。我们分析了每个子领域的主要趋势与问题，并提供了所提取论文的摘要。结果：SLR 结果凸显了社区对该主题的热情，以及数据集与模型类型方面多样性的缺乏。它也强调了进一步建立学术界与工业界联系以深化领域研究的必要性。最后，它还说明了在上述主要支柱间建立联系的必要性，这些支柱目前主要被分开研究。结论：我们强调了为实现基于 ML 的软件系统认证所部署的当前努力，并讨论了一些未来研究方向。
引用
@article{arxiv.2107.12045,
title = {How to Certify Machine Learning Based Safety-critical Systems? A Systematic Literature Review},
author = {Florian Tambon and Gabriel Laberge and Le An and Amin Nikanjam and Paulina Stevia Nouwou Mindom and Yann Pequignot and Foutse Khomh and Giulio Antoniol and Ettore Merlo and François Laviolette},
journal= {arXiv preprint arXiv:2107.12045},
year = {2022}
}
备注
60 pages (92 pages with references and complements), submitted to a journal (Automated Software Engineering). Changes: Emphasizing difference traditional software engineering / ML approach. Adding Related Works, Threats to Validity and Complementary Materials. Adding a table listing papers reference for each section/subsections