REPEAT：改进表示学习可解释性中的不确定性估计
机器学习
2024-12-12 v1 人工智能
摘要
纳入不确定性对于提供深度学习模型的可信解释至关重要。近期工作展示了不确定性建模在无监督领域的表示学习可解释人工智能（R-XAI）中尤为重要。当前的 R-XAI 方法通过衡量重要性分数的变异性来提供不确定性。然而，它们未能提供关于一个像素是否确实重要的有意义的估计。在这项工作中，我们提出了一种新的 R-XAI 方法 REPEAT，解决了像素是否确实重要这一关键问题。REPEAT 利用当前 R-XAI 方法的随机性来产生重要性的多个估计，从而将图像中的每个像素视为一个伯努利随机变量，即要么重要要么不重要。从这些伯努利随机变量中，我们可以直接估计像素的重要性及其关联的确定性，从而使能够判断像素重要性的确定性。我们的大量评估表明，REPEAT 给出了更直观的确定性估计，更擅长检测分布外数据，并且更加简洁。
引用
@article{arxiv.2412.08513,
title = {REPEAT: Improving Uncertainty Estimation in Representation Learning Explainability},
author = {Kristoffer K. Wickstrøm and Thea Brüsch and Michael C. Kampffmeyer and Robert Jenssen},
journal= {arXiv preprint arXiv:2412.08513},
year = {2024}
}
备注
Accepted at AAAI 2025. Code available at: https://github.com/Wickstrom/REPEAT