基于变量重要性改进局部回归的模型解释
机器学习
2022-09-13 v1 机器学习
摘要
关于ML模型使用的一个基本问题涉及对其预测的解释，以提升决策透明度。尽管已出现若干可解释性方法，但其在解释可靠性方面的某些缺陷已被指出。例如，多数方法不稳定（即对数据微小变动给出极不同解释），且不能很好应对无关特征（即与标签无关的特征）。本文引入两种新的可解释性方法，即VarImp和SupClus，它们通过使用考虑变量重要性的加权距离的局部回归拟合克服了这些问题。VarImp为各实例生成解释，可应用于具有更复杂关系的数据集；SupClus解释具有相似解释的实例簇，可应用于可发现簇的较简单数据集。我们将所提方法与最先进方法比较，表明依据若干指标其给出更优解释，尤其在含无关特征的高维问题中，以及当特征与目标间关系非线性时。
引用
@article{arxiv.2209.05371,
title = {Model interpretation using improved local regression with variable importance},
author = {Gilson Y. Shimizu and Rafael Izbicki and Andre C. P. L. F. de Carvalho},
journal= {arXiv preprint arXiv:2209.05371},
year = {2022}
}