将标尺引入黑箱：从个体条件期望图揭示特征影响
机器学习
2021-09-08 v1
摘要
随着机器学习系统日益普及，理解并解释这些模型的方法变得愈发重要。特别地，从业者通常既关注模型所依赖的特征，也关注模型如何依赖它们——即特征对模型预测的影响。先前关于特征影响的工作，包括偏依赖图（PDP）与个体条件期望（ICE）图，侧重于对特征影响的视觉解释。我们提出 ICE 图的自然扩展——ICE 特征影响，这是一种从 ICE 图中提取的模型无关、性能无关的特征影响度量，可解释为与线性回归系数紧密类比。此外，我们引入 ICE 特征影响的分布内变体，以调节分布外点的影响，并提出异质性与非线性度量来刻画特征影响。最后，我们使用真实世界数据在若干任务中展示了 ICE 特征影响的效用。
引用
@article{arxiv.2109.02724,
title = {Bringing a Ruler Into the Black Box: Uncovering Feature Impact from Individual Conditional Expectation Plots},
author = {Andrew Yeh and Anhthy Ngo},
journal= {arXiv preprint arXiv:2109.02724},
year = {2021}
}
备注
Accepted to Advances in Interpretable Machine Learning and Artificial Intelligence (AIMLAI) workshop in ECML PKDD 2021