关于目标检测模型黑箱可解释性的研究：面向安全可信的工业应用

在人机交互领域，人工智能已成为加速数据建模任务的强大工具。目标检测方法取得了显著成果，广泛应用于自动驾驶和视频监控等关键领域。然而，在可能造成严重后果的高风险应用中，其采用仍受到限制。可解释人工智能方法旨在解决这一问题，但许多现有技术是模型特定的且专为分类任务设计，使其在目标检测中效果不佳，且难以被非专业人士理解。本工作聚焦于目标检测模型的模型无关可解释性方法，提出 D-MFPP——一种基于分割掩码生成解释的形态学片段扰动金字塔（MFPP）技术的扩展。此外，我们引入 D-Deletion，一种结合忠实性与定位性的新指标，专门针对目标检测器的独特需求进行适配。我们在真实工业和机器人数据集上评估这些方法，考察掩码数量、模型规模和图像分辨率等参数对解释质量的影响。我们的实验将单阶段目标检测模型应用于两个安全关键的机器人环境：i）安全至关重要的共享人机工作空间，以及 ii）电池组装配区，由于高风险组件之间可能造成损坏，安全至关重要。我们的发现表明，当场景中出现同一类别的多个元素时，D-Deletion 能有效评估解释的性能，而 D-MFPP 在使用较少掩码时为 D-RISE 提供了有前景的替代方案。