基于可操作特征调整的树集成模型可解释预测

机器学习模型常被描述为“黑箱”。然而，在许多现实应用中，模型可能不得不牺牲预测能力以换取人类可解释性。当这种情况发生时，特征工程成为一项关键任务，需要大量且耗时的人的努力。虽然某些特征本质上是静态的，代表无法影响的属性（例如，个人的年龄），但其他特征捕获可调整的特性（例如，每日摄入的碳水化合物量）。尽管如此，一旦从数据中学习到模型，它对新实例做出的每个预测都是不可逆的——假设每个实例是位于所选特征空间中的静态点。然而，在许多情况下，理解（i）为什么模型对给定实例输出特定预测，（ii）该实例的哪些可调整特征应被修改，以及最终（iii）当变异实例被输回模型时如何改变此类预测是很重要的。在本文中，我们提出了一种技术，利用树集成分类器的内部机制，为将真负例实例转换为正预测实例提供建议。我们使用在线广告应用证明了我们方法的有效性。首先，我们设计了一个随机森林分类器，有效区分两类广告：低质量（负）和高（正）质量广告（实例）。然后，我们引入一种算法，提供旨在将低质量广告（负实例）转换为高质量广告（正实例）的建议。最后，我们在大型广告网络 Yahoo Gemini 的活跃库存子集上评估了我们的方法。