机器学习推理的机制性解释:一种模糊特征重要性融合方法

随着机器学习广泛支持决策制定,验证和理解产生特定输出的原因变得愈发重要。尽管训练后特征重要性方法有助于此种解释,但总体上缺乏关于应如何量化特征重要性的共识,使得模型预测的解释不可靠。此外,许多此类解释依赖于所采用的特定机器学习方法以及计算特征重要性时使用的数据子集。提高解释可靠性的一种可能解决方案是结合来自不同机器学习方法并配合重采样的多个特征重要性量化结果。当前最先进的集成特征重要性融合使用清晰技术来融合不同方法的结果。然而,这些方法并非上下文感知,并将若干量化器归约为单一清晰输出,导致显著的信息丢失。更重要的是,它们将“重要性”表示为系数的做法对最终用户和决策者具有误导且难以理解。在此我们展示了模糊数据融合方法的使用如何克服清晰融合方法的若干重要局限。