DeepCSHAP：利用 Shapley 值解释深度复值神经网络

深度神经网络广泛应用于学术界以及企业和公共应用中，包括医疗健康和自动驾驶等安全关键应用。解释其输出的能力对于安全原因以及用户接受度至关重要。已有大量方法被提出用于解释实值神经网络。最近，复值神经网络作为一类新的神经网络出现，能够处理复值输入数据，而无需将其投影到 $\mathbb{R}^2$ 上。这便产生了为这类神经网络开发解释算法的需求。在本文中，我们提供了这些开发成果。虽然我们专注于将广泛使用的 DeepSHAP 算法适配到复数域，但我们也提出了四种适用于复值神经网络的基于梯度的解释方法版本。我们评估了所有提出算法的解释质量，并将它们全部作为一个开源库提供，该库可适配于大多数最新的复值神经网络架构。