神经网络生成响应曲线的反事实解释

响应曲线展示了敏感系统对变化刺激响应的幅度。然而，此类系统的响应可能对多个未必独立 stimuli（即输入特征）敏感。因此，针对所选输入特征（称为“主动特征”）生成的响应曲线的形状可能依赖于其他输入特征（称为“被动特征”）的取值。在本工作中，我们考虑响应由回归神经网络近似的系统。我们提出使用反事实解释（CFEs）来识别对神经网络黑箱生成的响应曲线形状具有最高相关性的特征。CFEs 由一种基于遗传算法的方法生成，该方法求解一个多目标优化问题。特别地，给定为主动特征生成的响应曲线，CFE 寻找需要被修改以改变响应曲线形状的最小被动特征组合。我们在具有一维输入的合成数据集和具有二维输入的两个作物产量预测数据集上测试了我们的方法。在合成数据集上获得的特征及特征组合的相关性排序与用于生成该问题的方程分析一致。在产量预测数据集上获得的结果表明，被动特征对肥料响应性的影响取决于各地块的地形特征。