TRIP：诊断偏置特征重要性得分的非参数检验

除了准确的预测外，理解每个特征对预测作出贡献的重要性——即特征的重要性——也是机器学习模型不可或缺的组成部分。对于像随机森林这样的复杂模型而言，这些重要性并非内在的，正如线性回归那样。已 developed出高效的方法来提供此类功能，其中最受欢迎的是置换特征重要性，由于其高效性、模型无关性以及被认为的直观性。然而，置换特征重要性在存在特征依赖的情况下会被证明是误导性的，因为置换时会创建不切实际的观察值。在本工作中，我们开发了TRIP（Test for Reliable Interpretation via Permutation），这是一种需要最少假设的检验，能够检测由模型外推导致的置换特征重要性得分是否不可靠。为了进一步支持在高维情境下的使用，我们展示了该检验如何被补充。通过在仿真数据和实际应用中进行测试，我们的结果表明，该检验可用于可靠地检测置换特征重要性得分是否不可靠。