RbX：基于区域的预测模型解释方法
机器学习
2022-10-18 v1 机器学习
摘要
我们提出基于区域的解释 (RbX)，一种新颖的、模型无关的方法，仅利用查询访问即可为黑盒预测模型的标量输出生成局部解释。RbX 基于一种贪心算法来构建凸多面体，用以近似特征空间中模型预测接近某目标点处预测值的区域。该区域完全由用户在预测尺度上指定，而非在特征尺度上。该多面体的几何结构——具体而言，逃出该多面体所需的各坐标变化量——量化了预测对各特征的局部敏感性。这些“逃逸距离”可进一步标准化，从而按局部重要性对特征排序。RbX 保证满足“稀疏性公理”，该公理要求未进入预测模型的特征被赋予零重要性。同时，真实数据示例与合成实验表明，RbX 比现有方法更易检测出所有局部相关特征。
引用
@article{arxiv.2210.08721,
title = {RbX: Region-based explanations of prediction models},
author = {Ismael Lemhadri and Harrison H. Li and Trevor Hastie},
journal= {arXiv preprint arXiv:2210.08721},
year = {2022}
}
备注
13 pages, 4 figures