在不同背景类型人工数据上评估显著性方法
图像与视频处理
2021-12-10 v1 计算机视觉与模式识别
机器学习
机器学习
摘要
近年来出现了许多“可解释人工智能”（xAI）方法，但这些方法并未总能得到客观评估。为评估各种显著性方法所生成热图的质量，我们开发了一个框架，用于生成带合成病灶及已知真值图的人工数据。利用该框架，我们评估了具有不同背景（Perlin 噪声与 2D 脑 MRI 切片）的两个数据集，发现热图在显著性方法与背景之间差异显著。我们强烈建议在将这些显著性图与 xAI 方法应用于临床或其他安全关键场景前，使用该框架开展进一步评估。
引用
@article{arxiv.2112.04882,
title = {Evaluating saliency methods on artificial data with different background types},
author = {Céline Budding and Fabian Eitel and Kerstin Ritter and Stefan Haufe},
journal= {arXiv preprint arXiv:2112.04882},
year = {2021}
}
备注
6 pages, 2 figures. Presented at Medical Imaging meets NeurIPS 2021 (poster presentation)