黑盒模型的视觉解释：相似度差异与唯一性 (SIDU) 方法
计算机视觉与模式识别
2022-07-12 v2 人工智能
人机交互
机器学习
摘要
可解释人工智能(XAI)近年来已成为生成人类可理解的“黑盒”模型解释的合适框架。本文详细提出了一种称为相似度差异与唯一性(Similarity Difference and Uniqueness, SIDU)方法的新型 XAI 视觉解释算法，该算法能有效定位导致预测的全部目标区域。SIDU 算法的鲁棒性和有效性通过多种计算实验和人体受试者实验进行了分析。特别地，SIDU 算法使用三类不同的评估（应用、人类与功能 grounded）进行评估以展示其优越性能。还在“黑盒”模型遭受对抗攻击的情况下进一步研究了 SIDU 的鲁棒性，以更好地理解其性能。我们的代码可在 https://github.com/satyamahesh84/SIDU_XAI_CODE 获取。
引用
@article{arxiv.2101.10710,
title = {Visual explanation of black-box model: Similarity Difference and Uniqueness (SIDU) method},
author = {Satya M. Muddamsetty and Mohammad N. S. Jahromi and Andreea E. Ciontos and Laura M. Fenoy and Thomas B. Moeslund},
journal= {arXiv preprint arXiv:2101.10710},
year = {2022}
}