我们能看到多少?关于量化机器学习模型可解释性的一点注记
机器学习
2019-12-17 v2 机器学习
摘要
理解现代黑盒机器学习模型特征效应最流行的方法之一是部分依赖图(PDP)。这些图易于理解,但仅能可视化低阶依赖关系。本文关于“我们能看到多少?”这一问题:建立了一个框架以量化任意机器学习模型的可解释性,即PDP所给可视化能在何种程度上解释模型预测。该结果可用于判断解释黑盒模型的尝试是否充分。
引用
@article{arxiv.1910.13376,
title = {How Much Can We See? A Note on Quantifying Explainability of Machine Learning Models},
author = {Gero Szepannek},
journal= {arXiv preprint arXiv:1910.13376},
year = {2019}
}