用于比较解释模型的概率 Lipschitz 性与稳定秩
机器学习
2024-03-11 v2
摘要
可解释性模型目前在机器学习中十分普遍，旨在解决神经网络的黑盒性质。现在的问题是哪种可解释性模型最有效。概率 Lipschitz 性已表明，神经网络的平滑性与事后解释的质量根本相关。在本工作中，我们证明了 Integrated Gradients、LIME 和 SmoothGrad 的概率 Lipschitz 性的理论下界。我们提出了一种使用概率 Lipschitz 性的新指标，即归一化敏锐度，用于比较可解释性模型的鲁棒性。此外，我们证明了神经网络的局部 Lipschitz 常数与其稳定秩之间的联系。随后，我们论证了神经网络的稳定秩可为可解释性模型的鲁棒性提供启发式依据。
引用
@article{arxiv.2402.18863,
title = {Probabilistic Lipschitzness and the Stable Rank for Comparing Explanation Models},
author = {Lachlan Simpson and Kyle Millar and Adriel Cheng and Cheng-Chew Lim and Hong Gunn Chew},
journal= {arXiv preprint arXiv:2402.18863},
year = {2024}
}