面向符合功能安全标准统计机器学习组件的安全设计概念
软件工程
2020-08-05 v1 人工智能
机器学习
系统与控制
系统与控制
摘要
近年来，因统计机器学习（SML，含深度学习）误判导致非预期控制而引发的重大事件与事故屡有报道。国际电气/电子/可编程（E/E/P）系统功能安全标准已广泛推行以提升安全性。然而，迄今多数标准不推荐在安全关键系统中使用 SML。实际上，亟需新概念与方法以使 SML 能安全用于安全关键系统。本文中，我们为面向符合功能安全标准的 SML 组件整理了五类技术安全概念（TSCs）。我们不仅讨论定量评价标准，还基于 XAI（可解释人工智能）与 Automotive SPICE 探讨开发流程，以提升开发阶段的可解释性与可靠性。最后，我们简要比较了各 TSC 的成本与难度，并期望能推动多社区与领域的进一步讨论。
引用
@article{arxiv.2008.01263,
title = {Safety design concepts for statistical machine learning components toward accordance with functional safety standards},
author = {Akihisa Morikawa and Yutaka Matsubara},
journal= {arXiv preprint arXiv:2008.01263},
year = {2020}
}