关注方差！基于 Sobol 敏感性分析的高效黑盒解释方法
计算机视觉与模式识别
2022-02-17 v1 人工智能
计算与语言
机器学习
摘要
我们描述了一种基于敏感性分析并使用 Sobol 指数的新型归因方法。除建模图像区域的个体贡献外，Sobol 指数通过方差视角提供了一种高效方式来捕捉图像区域间的高阶交互及其对神经网络预测的贡献。我们描述了一种方法，通过使用扰动掩码与高效估计器来处理图像的高维性，从而使这些指数的计算对高维问题而言是高效的。重要的是，我们表明所提方法在标准视觉（及语言模型）基准上取得了良好分数，同时与其他黑盒方法相比大幅减少了计算时间——甚至超越了需要访问内部表征的 SOTA 白盒方法的精度。我们的代码免费提供：https://github.com/fel-thomas/Sobol-Attribution-Method
引用
@article{arxiv.2111.04138,
title = {Look at the Variance! Efficient Black-box Explanations with Sobol-based Sensitivity Analysis},
author = {Thomas Fel and Remi Cadene and Mathieu Chalvidal and Matthieu Cord and David Vigouroux and Thomas Serre},
journal= {arXiv preprint arXiv:2111.04138},
year = {2022}
}
备注
NeurIPS2021