机器学习感知函数的安全监控：综述

机器学习（ML）模型，如深度神经网络，广泛应用于自主系统以执行复杂的感知任务。当ML预测用于安全关键应用时，如自动驾驶汽车和外科手术机器人，就会出现新的可靠性挑战。因此，使用容错机制，如安全监控器，以确保系统在发生故障时仍能安全运行，是必不可少的。本文 presents了关于在安全关键情境下使用ML进行感知函数安全监控的广泛文献综述。在本综述中，我们结构化了现有文献，以突出设计此类监控器时需要考虑的关键因素：威胁识别、需求收集、故障检测、反应和评估。我们还概述了安全监控的持续挑战，并提出了未来研究的方向。