基于深度神经网络顶夸克标记器的可解释性详细研究
高能物理 - 实验
2023-07-07 v4 机器学习
摘要
可解释人工智能(XAI)方法的近期进展使研究者能够探索深度神经网络(DNN)的内部工作机制，揭示输入-输出关系的关键信息，并理解数据如何与机器学习模型相连。本文中，我们探讨了旨在识别大型强子对撞机(LHC)高能质子-质子碰撞中顶夸克衰变所产生喷注的DNN模型的可解释性。我们回顾了现有顶夸克标记器模型的一个子集，并探索了不同的定量方法以识别哪些特征在识别顶喷注中起着最重要的作用。我们还研究了特征重要性为何及如何在不同XAI度量间变化、特征间的相关性如何影响其可解释性，以及潜在空间表示如何编码信息并与具有物理意义的数量相关联。我们的研究揭示了现有XAI方法的一些主要缺陷，并说明了如何克服它们以获得对这些模型一致且有意义的解释。我们还以神经激活模式(NAP)图的形式展示了隐藏层的活动，并演示了如何利用它们理解DNN如何跨层传递信息，以及这种理解如何通过有效的模型重优化和超参数调优来帮助使此类模型显著简化。这些研究不仅促进了一种解释模型的方法论途径，也揭示了关于这些模型所学内容的新见解。将这些观察纳入增强的模型设计中，我们提出了粒子流交互网络(PFIN)模型，并展示了受可解释性启发的模型增强如何改善顶夸克标记性能。
引用
@article{arxiv.2210.04371,
title = {A Detailed Study of Interpretability of Deep Neural Network based Top Taggers},
author = {Ayush Khot and Mark S. Neubauer and Avik Roy},
journal= {arXiv preprint arXiv:2210.04371},
year = {2023}
}
备注
Repository: https://github.com/FAIR4HEP/xAI4toptagger. Some figure cosmetics have been changed. Accepted at Machine Learning: Science and Technology