基于 Knockoffs 的反事实生成

深度神经网络决策的人类可解释性至关重要，尤其在那些决策直接影响人类生命的领域。已训练神经网络的决策可通过扰动输入特征并根据扰动后分类器输出的变化来归因重要性，从而生成反事实解释。扰动可通过启发式或生成式填充方法替换特征来实现。填充函数的选择显著影响伪影（即假阳性归因）的数量。启发式方法会产生假阳性伪影，因为扰动后的图像远离原始数据分布。生成式填充方法通过产生符合原始数据分布的填充值来减少伪影。然而，当前的生成式填充方法也可能因填充值与原始数据高度相关而增加假阴性。本文中，我们提出利用具有统计基础的 Knockoffs 框架来缓解该问题，该框架由 Barber 和 Candès 于 2015 年提出，作为具有可控错误发现率的变量选择工具。Knockoffs 是统计上的零变量，与原始数据尽可能去相关，可在不改变底层数据分布的情况下与原始数据互换。不同填充方法的比较表明，使用 knockoffs 进行填充能以更具因果意义的方式揭示解释，同时保持解释的紧凑性。