面向图像数据目标检测的模型无关可解释人工智能
计算机视觉与模式识别
2024-09-05 v4 人工智能
摘要
近年来，深度神经网络被广泛用于构建高性能人工智能（AI）系统以服务计算机视觉应用。目标检测是计算机视觉中的基础任务，通过开发大型复杂 AI 模型已取得巨大进展。然而，缺乏透明度是一大挑战，可能阻碍这些模型的广泛采用。可解释人工智能是一个研究领域，其中开发方法以帮助用户理解 AI 系统的行为、决策逻辑和脆弱性。此前，基于随机掩码的少数目标检测解释方法被提出。然而，随机掩码可能引发关于图像内像素实际重要性的问题。本文中，我们设计并实现了一种名为基于掩码的黑名单目标检测解释（BODEM）的黑盒解释方法，通过对目标检测系统采用分层随机掩码方法。我们提出一种分层随机掩码框架，其中低层使用粗粒度掩码寻找图像中的显著区域，高层使用细粒度掩码精炼显著区域。在各种目标检测数据集和模型上的实验表明，BODEM 能有效解释目标检测器的行为。此外，在解释有效性的不同定量度量上，我们的方法优于检测器随机输入采样解释（D-RISE）和局部可解释模型无关解释（LIME）。实验结果表明，BODEM 可成为黑盒测试场景中解释和验证目标检测系统的有效方法。
引用
@article{arxiv.2303.17249,
title = {Model-agnostic explainable artificial intelligence for object detection in image data},
author = {Milad Moradi and Ke Yan and David Colwell and Matthias Samwald and Rhona Asgari},
journal= {arXiv preprint arXiv:2303.17249},
year = {2024}
}