BayesNAM：利用不一致性实现可靠解释

神经加性模型（NAM）是一种最近提出的可解释人工智能（XAI）方法，利用基于神经网络的架构。鉴于神经网络的优势，NAM能够以高模型性能为其预测提供直观的解释。在本文中，我们分析了一个关键但被忽视的现象：NAM即使使用相同的架构和数据集，也常常产生不一致的解释。传统上，此类不一致性被视为需要解决的问题。然而，我们反而认为，这些不一致性可以在给定的数据模型中提供有价值的解释。通过一个简单的理论框架，我们证明这些不一致性并非人为产物，而是在具有多个重要特征的数据集中自然产生的。为了有效利用这些信息，我们引入了一个名为贝叶斯神经加性模型（BayesNAM）的新框架，它集成了贝叶斯神经网络与特征dropout，并提供了理论证明，表明特征dropout能够有效捕捉模型的不一致性。我们的实验证明，BayesNAM能够有效揭示潜在问题，如数据不足或模型的结构局限性，从而提供更可靠的解释和潜在的补救措施。