LIMEcraft：面向视觉解释的手工超像素选取与检视
计算机视觉与模式识别
2023-01-05 v2 机器学习
摘要
对深度学习应用兴趣的增长及其难以察觉的偏置，导致需要验证并解释复杂模型。然而，当前的解释方法在推理过程解释与预测结果解释两方面均存在局限。它们通常仅展示对模型预测重要的图像位置。缺乏与解释交互的可能性使得确切验证和理解模型如何工作变得困难。这在使用模型时造成了显著风险。该风险因解释未考虑被解释对象的语义含义而加剧。为摆脱静态且无意义的解释陷阱，我们提出一种称为LIMEcraft的工具与流程。LIMEcraft通过允许用户交互式选取语义一致区域并在存在众多图像特征时彻底检查该图像实例的预测，来增强解释过程。在多个模型上的实验表明，我们的工具通过检视可能指示模型偏置的图像块之模型公平性来提升模型安全性。代码见：http://github.com/MI2DataLab/LIMEcraft
引用
@article{arxiv.2111.08094,
title = {LIMEcraft: Handcrafted superpixel selection and inspection for Visual eXplanations},
author = {Weronika Hryniewska and Adrianna Grudzień and Przemysław Biecek},
journal= {arXiv preprint arXiv:2111.08094},
year = {2023}
}