采样、干预、预测、聚合：一种模型无关解释的广义框架
机器学习
2020-04-01 v4 机器学习
摘要
模型无关解释技术使我们能够解释任意预测模型的行为。由于记法与术语不同，很难看清它们之间的关系。对这些方法一直缺乏统一的视角。我们提出用于模型无关解释的广义 SIPA（采样、干预、预测、聚合）工作阶段框架，并展示若干著名的特征效应方法如何嵌入所提框架中。此外，我们指出基于方差与基于性能的重要性度量如何建立在相同工作阶段之上，从而将框架扩展到特征重要性计算。SIPA 框架将多样的模型无关技术归约为单一方法学，并建立了用于今后讨论它们的通用术语。
引用
@article{arxiv.1904.03959,
title = {Sampling, Intervention, Prediction, Aggregation: A Generalized Framework for Model-Agnostic Interpretations},
author = {Christian A. Scholbeck and Christoph Molnar and Christian Heumann and Bernd Bischl and Giuseppe Casalicchio},
journal= {arXiv preprint arXiv:1904.03959},
year = {2020}
}