回归模型中的删除与插入测试
机器学习
2023-08-24 v3 人工智能
机器学习
摘要
可解释人工智能（XAI）的一项基本任务是识别黑盒函数 所做预测背后最重要的特征。Petsiuk 等人（2018）的插入与删除测试可用于评判那些将像素按重要性从高到低排序的算法的质量。受回归问题启发，我们针对其曲线下面积（AUC）准则建立了基于 的锚定分解中某些主效应与交互效应的公式。我们给出了在 输入随机排序下 AUC 期望值的表达式，并针对回归场景提出了直线上方面积的替代准则。我们利用该准则将集成梯度（IG）计算的特征重要性，与 Kernel SHAP（KS）、LIME、DeepLIFT、原始梯度和输入梯度方法计算的结果进行比较。在我们考虑的两个数据集中 KS 总体表现最佳，但计算代价非常高。我们发现 IG 几乎与 KS 一样好，同时速度快得多。我们的比较问题包含一些二值输入，这对 IG 构成挑战，因为它必须使用可能变量取值水平之间的值，因此我们考虑了在 IG 中处理二值变量的方法。我们表明，按 Shapley 值对变量排序并不一定能给出插入-删除测试的最优排序。然而对于加性模型的单调函数（如逻辑回归），它将给出最优排序。
引用
@article{arxiv.2205.12423,
title = {Deletion and Insertion Tests in Regression Models},
author = {Naofumi Hama and Masayoshi Mase and Art B. Owen},
journal= {arXiv preprint arXiv:2205.12423},
year = {2023}
}