打开神经网络的黑箱:在stop/top判别中的案例研究

我们引入探索神经网络功能并提取其性能的简单、人类可读近似的技术。通过对网络的输入空间执行梯度上升,我们能够产生大量强烈激发给定分类器的人工事件群体。通过研究这些事件的群体,我们直接生成本质上是网络分类函数等高线图的结果。结合一套用于识别网络视为最重要的输入维度的工具,我们可以利用这些图高效地解释网络进行分类所依据的主导准则。作为测试用例,我们研究经训练以在双轻子道中判别超对称stop产生与标准模型本底的网络。在重stop衰变为轻中性微子的情形下,我们发现与$m_{T2}^{\ell\ell}$(一种用于优化分析的人工设计变量)具有大互信息的单个神经元。网络选取具有显著缺失$p_T$且方位角上远离两个轻子的事件,高效排斥$t\overline{t}$本底。在具有到$Wb{\widetilde \chi}$的三体衰变且相空间狭小的轻stop情形下,我们发现平滑介于类似顶排斥策略与允许更多缺失动量的ISR标记策略之间的神经元。我们还发现,训练于隐秘stop参数点的神经网络学到了新颖的角关联。