解释不确定性的健全性检验

机器学习模型的解释可能难以理解或存在错误。将解释方法与不确定性估计方法相结合会产生解释不确定性。评估解释不确定性是困难的。在本文中，我们为不确定性解释方法提出了健全性检验，其中为带有不确定性的解释定义了权重和数据随机化测试，允许对不确定性与解释方法的组合进行快速测试。我们在CIFAR10和California Housing数据集上实验性地展示了这些测试的有效性和效果，注意到集成方法在使用引导反向传播、积分梯度和LIME解释时似乎能一致地通过这两项测试。