使用模型无关方法生成精细显著图
计算机视觉与模式识别
2022-09-20 v1 人工智能
机器学习
摘要
可解释人工智能这一新兴领域致力于研究解释复杂机器学习模型决策过程的方法。在计算机视觉可解释性领域，解释以显著图形式给出，其可视化了输入中各像素相对于模型预测的重要性。本工作关注一种基于扰动、模型无关的可解释性方法RISE，阐述其基于网格方法的已观察缺陷，并提出两项修改：用基于Voronoi网格单元凸多边形遮挡替代方形遮挡，以及为遮挡掩码生成器增加信息量保证。这些修改统称为VRISE（Voronoi-RISE），分别旨在提高使用大遮挡生成地图的精度，以及在采样密度极低或极高时加速显著图收敛。我们在ILSVRC2012的验证集划分上，使用显著引导的内容插入/删除度量和基于边界框的定位度量，对VRISE与RISE生成的显著图精度进行定量比较。此外，我们探索可配置遮挡模式参数的空间，以更好理解其对RISE与VRISE生成显著图的影响。我们也描述并展示了实验过程中观察到的、由RISE随机采样方法引起的两种效应：“特征切片”与“显著性误归因”。我们的结果表明，凸多边形遮挡对粗遮挡网格和多目标图像产生更精确的地图，但在其他情况下改进不保证。信息量保证被证明可在不带来显著计算开销的情况下提高收敛速率。
引用
@article{arxiv.2209.09202,
title = {Generating detailed saliency maps using model-agnostic methods},
author = {Maciej Sakowicz},
journal= {arXiv preprint arXiv:2209.09202},
year = {2022}
}
备注
85 pages, 70 figures, Master's thesis, defended on 2021-12-23 (Gdansk University of Technology)