变换特征空间以解释机器学习模型

用于解释机器学习模型的模型无关工具难以概括高维特征空间中强相关特征的联合效应，而这类效应在模式识别（例如土地覆盖遥感）中起着重要作用。本文提出一种通过特征空间变换视角解释机器学习模型的新方法。它可用于增强无条件以及条件后验诊断工具，包括偏依赖图、累积局部效应图或置换特征重要性评估。虽然该方法也可应用于非线性变换，我们聚焦于线性变换，包括主成分分析（PCA）和一种部分正交化技术。结构化 PCA 与沿路径的诊断为领域知识的表示提供了机会。新方法在 R 包 `wiml` 中实现，可与现有可解释机器学习包结合。以具有 46 个特征的土地覆盖遥感分类案例研究展示了所提方法对领域专家进行模型解释的潜力。