将CAM用作基于Shapley值的解释器

类激活图（CAM）方法广泛用于可视化神经网络决策，但其背后的机制仍未得到完全理解。为增强对CAM方法的理解并提高其可解释性，我们引入了基于内容保留的博弈论解释器（Content Reserved Game-theoretic, CRG）解释器。该理论框架通过将神经网络预测过程建模为合作游戏来阐明GradCAM和HiResCAM的理论基础。在此框架中，我们开发了ShapleyCAM，这一新方法利用梯度和Hessian矩阵提供更精确且在理论上更为严谨的可视化解释。由于精确Shapley值计算在计算上不可行，ShapleyCAM采用合作游戏效用函数的二阶泰勒展开，推导出闭式表达式。此外，我们提出了残差Softmax目标-类别（Residual Softmax Target-Class, ReST）效用函数，以解决预Softmax和后Softmax得分的局限性。在ImageNet验证集上对12个流行网络进行的广泛实验表明，ShapleyCAM及其变体均表现出色。我们的发现不仅推动了CAM的可解释性，还搭建了以启发式方法为主的CAM方法与计算密集型基于Shapley值的模型之间的鸿沟。代码已公开于\url{https://github.com/caihuaiguang/pytorch-shapley-cam}。