通过基于聚类的方法支持图像处理深度神经网络的安全分析

深度神经网络（DNN）在安全关键场景中的采用常因缺乏解释其结果（尤其当结果错误时）的有效手段而受阻。在我们之前的工作中，我们提出了一种白盒方法（HUDD）和一种黑盒方法（SAFE）来自动刻画 DNN 故障。它们都从可能导致 DNN 故障的潜在大量图像中识别相似图像的聚类。然而，HUDD 和 SAFE 的分析流程是根据常见实践以特定方式实例化的，将其他流程的分析留待未来工作。在本文中，我们报告了对 99 种不同流程用于 DNN 故障根因分析的实证评估。它们结合了迁移学习、自动编码器、神经元相关性热图、降维技术和不同的聚类算法。我们的结果表明，最佳流程结合了迁移学习、DBSCAN 和 UMAP。它产生的聚类几乎完全捕获相同故障场景的图像，从而便利根因分析。此外，它为每一个故障根因生成不同的聚类，使工程师能够检测所有不安全场景。有趣的是，即便对于仅在少量失败图像中观察到的故障场景，这些结果依然成立。