传统机器学习模型解释方法比较 第一部分：现有方法综述及其分歧量化

随着对机器学习（ML）模型解释的兴趣日益增长，这项分为两部分的研究的第一部分综合了近期关于解释 ML 模型全局与局部方面的方法研究。本研究区分了可解释性（explainability）与可理解性（interpretability）、局部与全局可解释性，以及特征重要性与特征相关性。我们展示并可视化了不同的解释方法、如何解读它们，并提供了一个完整的 Python 包（scikit-explain）以供未来研究者探索这些产物。我们还强调了特征排序与特征效应方面解释方法之间频繁的分歧，并提供了处理这些分歧的实用建议。我们使用为强天气预报和路面亚冻结温度预测开发的 ML 模型来推广不同解释方法的行为。对于特征排序，在顶部特征集合上的共识显著更高（例如平均而言，两种方法在 top 10 特征中同意 6 个），而在具体排序上共识较低（平均而言，两种方法在 top 10 特征中仅同意 2-3 个特征的排名）。另一方面，只要相空间采样充分，来自不同方法的两个特征效应曲线具有高度一致性。最后，一个较少被知晓的方法 tree interpreter 被发现其与 SHAP 在特征效应上相当，并且随着随机森林在地球科学中的广泛使用以及 tree interpreter 的计算简便性，我们建议在未来研究中加以探索。