从函数信息视角看模型解释
机器学习
2022-06-15 v2
摘要
当代预测模型难以解释，因为其深度网络利用了输入元素间众多复杂关系。本工作提出一种理论框架，通过度量相关特征对网络关于输入的函数熵的贡献来实现模型可解释性。我们依赖log-Sobolev不等式，该不等式以关于数据协方差的函数Fisher信息界定函数熵。这提供了一种原则性方式来度量特征子集对决策函数的信息贡献量。通过大量实验，我们表明该方法在图像、文本和音频等多种数据信号上超越了现有的基于采样的解释性方法。
引用
@article{arxiv.2206.05700,
title = {A Functional Information Perspective on Model Interpretation},
author = {Itai Gat and Nitay Calderon and Roi Reichart and Tamir Hazan},
journal= {arXiv preprint arXiv:2206.05700},
year = {2022}
}
备注
Accepted to ICML 2022