用于图像解释的快速分层博弈方法
计算机视觉与模式识别
2022-07-15 v2 机器学习
摘要
随着现代复杂神经网络不断刷新纪录并解决更困难的问题，其预测也变得愈发难以理解。当前可解释性的缺乏常常阻碍精准机器学习工具在敏感场景中的部署。本文提出一种基于 Shapley 系数分层扩展——分层 Shap（h-Shap）——的模型无关图像分类解释方法，其解决了现有方法的一些局限。与其他基于 Shapley 的解释方法不同，h-Shap 可扩展且无需近似即可计算。在特定分布假设下（如多示例学习中常见者），h-Shap 以计算复杂度的指数级改进精确恢复 Shapley 系数。我们在合成数据集、医学影像场景和通用计算机视觉问题上将分层方法与流行的基于 Shapley 及非 Shapley 方法比较，表明 h-Shap 在精度与运行时间上均优于当前最优。代码与实验已公开。
引用
@article{arxiv.2104.06164,
title = {Fast Hierarchical Games for Image Explanations},
author = {Jacopo Teneggi and Alexandre Luster and Jeremias Sulam},
journal= {arXiv preprint arXiv:2104.06164},
year = {2022}
}
备注
20 pages, 8 figures