从拟合模型中推导类别的邻域
机器学习
2020-09-18 v2 机器学习
统计方法学
摘要
在当今世界中，对海量数据集使用非常复杂模型的需求正在稳步上升。这些模型的问题在于，随着模型复杂度的提高，其可解释性变得愈发困难。可解释机器学习（interpretable machine learning）这一不断发展的领域，试图通过使用特定技术来弥补这些复杂（甚至是黑箱）模型在可解释性上的不足，从而帮助更好地理解这些模型。本文提出了一种新型的可解释机器学习方法，该方法利用分位数偏移（quantile shifts）来帮助理解分类模型中特征空间划分为预测类别的方式。为了说明这种分位数偏移方法（QSM）在哪些情形下可能有益，我们将其应用于一个理论医学示例和一个真实数据示例。具体而言，我们使用真实数据点（或特定的关注点），观察在略微提高或降低特定特征后预测的变化。通过在特定条件下比较操作前后的预测，所观察到的预测变化可被解释为相对于被操作特征的类别邻域。我们使用和弦图（chordgraphs）来可视化所观察到的变化。
引用
@article{arxiv.2009.05516,
title = {Deducing neighborhoods of classes from a fitted model},
author = {Alexander Gerharz and Andreas Groll and Gunther Schauberger},
journal= {arXiv preprint arXiv:2009.05516},
year = {2020}
}