神经符号人工智能的形式化解释

尽管人工智能（AI）在实践中取得了成功，但当前的神经AI算法面临两个重大问题。首先，神经架构做出的决策往往容易产生偏差和脆弱性。其次，当需要推理链时，神经系统的表现通常不佳。神经符号人工智能是一种有前景的方法，它通过结合神经感知和符号推理的能力来解决这些（及其他）弱点。与此同时，AI的成功使得理解其行为变得至关重要，从而推动了可解释人工智能（XAI）的发展。虽然神经符号AI系统相比纯神经AI具有重要优势，但我们仍然需要解释其行为，而这些行为因神经和符号组件的交互而变得模糊。为解决这个问题，本文提出了一种形式化方法来解释神经符号系统的决策。该方法依赖于使用形式化溯因解释并分层解决神经符号可解释性问题。即，它首先为系统的符号组件计算一个形式化解释，该解释用于识别需要解释的神经信息个体部分的一个子集。随后，仅独立地解释这些个体神经输入，这有助于分层形式化解释的简洁性，并有助于提高该方法的整体性能。在几个复杂推理任务上的实验结果表明，从解释大小、解释时间、训练时间、模型大小和报告的解释质量角度来看，与纯神经相比，所提方法具有实际效率。