使用贝叶斯优化生成黑盒显著图
机器学习
2020-01-31 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
显著图常用于计算机视觉中，直观解释模型使用了哪些输入区域来产生特定预测。现有多种显著图生成方法，但大多需要访问模型参数。本工作提出一种针对黑盒模型的显著图生成方法，该方法无法访问模型参数，使用贝叶斯优化采样方法。该方法旨在找到导致特定（黑盒）模型预测的全局显著图像区域。这是通过基于采样的模型扰动方法实现的，该方法致力于将图像的显著区域定位到黑盒模型。结果表明，所提出的显著图生成方法优于基于网格的扰动方法，并与需要访问模型参数的基于梯度的方法表现相近。
引用
@article{arxiv.2001.11366,
title = {Black-Box Saliency Map Generation Using Bayesian Optimisation},
author = {Mamuku Mokuwe and Michael Burke and Anna Sergeevna Bosman},
journal= {arXiv preprint arXiv:2001.11366},
year = {2020}
}
备注
Submitted to IJCNN 2020