基于协同协同进化的 ML 赋能自主系统危险边界识别

在机器学习（ML）赋能的自主系统（MLAS）中，识别被测 MLAS 中 ML 组件（MLC）的危险边界至关重要。鉴于该边界捕获了可能导致危险的 MLC 行为与系统上下文条件，它可被用于例如构建安全监视器，在到达危险边界时于运行时采取任何预定义的回退机制。然而，为 ML 组件确定此类危险边界具有挑战性。这是因为组合了系统上下文（即场景）与 MLC 行为（即输入与输出）的问题空间过于庞大，无法穷举探索，甚至难以使用常规元启发式（如遗传算法）处理。此外，确定任何 MLAS 安全违规所需仿真的高计算成本使问题更具挑战性。进一步，由于仿真中不可控参数以及被测 MLAS 中 ML 模型（如深度神经网络）的非线性行为，将问题空间中的某区域确定性地视为安全或不安全是不现实的。为应对这些挑战，我们提出 MLCSHE（ML 组件安全危险包络），一种基于协同协同进化算法（CCEA）的新方法，旨在通过将该高维问题分解为两个低维搜索子问题来应对。此外，我们对安全与不安全区域采取概率视角，并定义一种新的适应度函数来度量距概率危险边界的距离，从而有效驱动搜索。我们在一个复杂的自动驾驶汽车（AV）案例研究上评估了 MLCSHE 的有效性与效率。评估结果表明，与标准遗传算法和随机搜索相比，MLCSHE 显著更高效且更有效。