具有多体物理启发归纳偏置的多激发投影模拟

随着深度学习的显著进步，依赖机器学习的应用正日益融入日常生活。然而，大多数深度学习模型具有不透明的、类似黑盒的性质，使其决策难以解释和理解。这个问题导致了被称为可解释人工智能 (XAI) 领域的发展。该领域中一种称为投影模拟 (PS) 的方法，将思维链建模为粒子在图上的随机游走，图的顶点附有概念。虽然这种描述具有各种好处，包括量化的可能性，但它不能自然地用于模拟同时结合多个概念的思维。为了克服这一限制，我们引入了多激发投影模拟 (mePS)，这是一种泛化，将思维链视为多个粒子在超图上的随机游走。提出了动态超图的定义，以描述代理的训练历史以及在 AI 和超图可视化中的应用。受量子多体物理中非常成功的少体相互作用模型启发，为我们的经典 mePS 框架形式化了一种归纳偏置，并用于解决与超图朴素实现相关的指数复杂度。我们证明了我们的归纳偏置将复杂度从指数级降低到多项式级，其中指数代表可以相互作用的粒子数量的截断。我们将我们的方法数值应用于两个玩具环境和一个更复杂的场景，模拟故障计算机的诊断。这些环境展示了通过适当选择归纳偏置所提供的资源节省，并展示了可解释性的方面。还简要概述了 mePS 的量子模型，并讨论了其一些未来方向。