HUDD：用于 DNN 安全分析调试的工具

我们提出 HUDD，一个通过自动识别 DNN 错误的根本原因并重新训练 DNN 来支持由深度神经网络（DNNs）赋能系统的安全分析实践的工具。HUDD 代表基于热图的无监督 DNN 调试（Heatmap-based Unsupervised Debugging of DNNs），它自动聚类导致错误的图像，这些图像的结果源于 DNN 神经元的共同子集。其意图是使生成的聚类将具有共同特征即具有共同根本原因的错误诱导图像分组。HUDD 通过对捕捉每个 DNN 神经元对 DNN 输出相关性的矩阵（即热图）应用聚类算法来识别根本原因。此外，HUDD 基于与所识别图像聚类的关联性自动选择图像来重新训练 DNN。我们在自动驾驶领域的 DNN 上的实证评估表明，HUDD 自动识别了 DNN 错误的所有不同根本原因，从而支持安全分析。并且，我们的重训练方法在提升 DNN 准确率方面比现有方法更有效。HUDD 的演示视频可在 https://youtu.be/drjVakP7jdU 获取。