从黑盒深度神经网络中提取解释、理由和不确定性
机器学习
2024-03-14 v1 机器学习
摘要
深度神经网络 (DNN) 本身并不计算或展示经验上合理的任务置信度。在关键任务应用中，理解相关的 DNN 推理及其支持证据至关重要。在本文中，我们提出了一种新颖的贝叶斯方法，用于从 DNN 中提取解释、理由和不确定性估计。我们的方法在内存和计算方面都很高效，并且可以应用于任何黑盒 DNN 而无需任何重新训练，包括应用于异常检测和分布外检测任务。我们在 CIFAR-10 数据集上验证了我们的方法，并表明它可以显著提高 DNN 的可解释性和可靠性。
引用
@article{arxiv.2403.08652,
title = {Extracting Explanations, Justification, and Uncertainty from Black-Box Deep Neural Networks},
author = {Paul Ardis and Arjuna Flenner},
journal= {arXiv preprint arXiv:2403.08652},
year = {2024}
}
备注
8 pages, 5 figures, SPIE DCS 2024