贝叶斯神经网络的可解释人工智能：迈向海洋动力学可信预测
大气与海洋物理
2022-12-07 v1 机器学习
摘要
神经网络的可靠性常受质疑，因其缺乏表达不确定性与解释其能力的能力。鉴于神经网络在气候变化应用等高 stakes 决策中的日益使用，这可能成问题。我们通过成功实现贝叶斯神经网络（BNN）（其参数为分布而非确定性）并应用可解释 AI（XAI）技术的新颖实现，同时解决这两个问题。BNN 的不确定性分析提供了比经典神经网络预测更适合从业者需求的预测全面概览。使用 BNN 意味着我们可以计算预测的熵（即不确定性）并确定结果概率是否统计显著。为增强可信度，我们还空间性地应用 LRP（逐层相关性传播）与 SHAP（SHapley 加性解释）值两种 XAI 技术。这些 XAI 方法揭示了 BNN 在何种程度上合适和/或可信。使用两种技术比单一技术更全面地看待 BNN 能力及其不确定性，因为 LRP 考虑神经网络参数，而 SHAP 考虑输出的变化。我们通过与物理理论直觉的比较验证这些技术。解释中的差异识别出可能需要新物理理论引导研究的潜在领域。
引用
@article{arxiv.2205.00202,
title = {Explainable Artificial Intelligence for Bayesian Neural Networks: Towards trustworthy predictions of ocean dynamics},
author = {Mariana C. A. Clare and Maike Sonnewald and Redouane Lguensat and Julie Deshayes and Venkatramani Balaji},
journal= {arXiv preprint arXiv:2205.00202},
year = {2022}
}
备注
25 pages, 11 figures