用于识别 $H \rightarrow b\bar{b}$ 喷注的交互网络的可解释性

多年来，多元技术与机器学习模型在高能物理（HEP）研究中已有众多应用。近来，基于深度神经网络的 AI 模型在许多此类应用中日益流行。然而，神经网络被视为黑箱——因其高度复杂性，往往很难通过建立可处理的输入输出关系及信息在深层网络中的传播来定量解释神经网络的输出。随着可解释 AI（xAI）方法近年日益普及，我们通过考察一个旨在从 QCD 背景中识别增强型 $H\to b\bar{b}$ 喷注的交互网络（IN）模型，来探索 AI 模型的可解释性。我们探索不同的定量方法，以展示分类器网络如何基于输入做出决策，以及如何利用这些信息重新优化模型——使其更简洁却同样有效。我们还以神经激活模式（NAP）图的形式展示了 IN 模型隐藏层的活动。我们的实验表明，NAP 图揭示了关于信息如何跨越深度模型隐藏层传递的重要信息。这些见解有助于有效的模型重优化与超参数调优。