基于共形预测的自解释神经网络不确定性建模
机器学习
2024-01-04 v1
摘要
尽管深度神经网络（DNN）最近取得了进展，但解释DNN的预测仍然具有挑战性。现有的DNN解释方法主要关注事后解释，即采用另一个解释模型来提供解释。事后方法可能无法揭示DNN的实际原始推理过程，这一事实促使我们需要构建具有内置可解释性的DNN。受此启发，许多自解释神经网络被提出，不仅生成准确的预测，而且对为何做出特定决策提供清晰直观的见解。然而，现有的自解释网络在同时生成的两个预测结果（即样本的最终预测和用于解释该预测的相应解释）上提供无分布不确定性量化方面存在局限。重要的是，它们也未能建立解释层中分配给生成解释的置信度值与最终预测层中分配给最终预测的置信度值之间的联系。为了解决上述挑战，在本文中，我们设计了一种新颖的自解释网络不确定性建模框架，该框架不仅在解释层中为生成的解释展示了强大的无分布不确定性建模性能，而且基于信息丰富的高层基础解释，在最终预测中产生高效且有效的预测集。我们对所提出的框架进行了理论分析。广泛的实验评估证明了所提出的不确定性框架的有效性。
引用
@article{arxiv.2401.01549,
title = {Towards Modeling Uncertainties of Self-explaining Neural Networks via Conformal Prediction},
author = {Wei Qian and Chenxu Zhao and Yangyi Li and Fenglong Ma and Chao Zhang and Mengdi Huai},
journal= {arXiv preprint arXiv:2401.01549},
year = {2024}
}