无导数扩散流 manifold 约束梯度用于统一解释人工智能

梯度方法是解释性技术的典型家族，尤其适用于基于图像的模型。然而，它们存在若干局限：(1) 需要对模型拥有白盒访问权限，(2) 易受对抗性攻击，(3) 生成的归因位于图像流形之外，导致解释对模型并不真实，也不与人类感知良好一致。为克服这些挑战，我们提出了无导数扩散流 manifold 约束梯度 (FreeMCG)，这是一种新颖的方法，可作为解释给定神经网络的改进基石。具体而言，通过利用ensemble Kalman滤波器和扩散模型，我们推导出对模型梯度的无导数近似，并投影到数据流形上，仅需访问模型输出即可。我们通过将其应用于对抗样本生成和特征归因，展示了FreeMCG的有效性——这两项任务传统上被视为独立的任务。通过对两项任务的全面评估，对抗性解释和特征归因，我们表明该方法在保持XAI工具所需基本属性的同时，达到了最新成果。