弱引力透镜深度学习模型的可解释性

深度神经网络（DNNs）是强大的算法，已被证明能够从弱引力透镜（WL）数据集中提取非高斯信息。理解数据中哪些特征决定了这些嵌套非线性算法的输出是一项重要但具挑战性的任务。我们分析一个在先前的工作中被发现能准确恢复模拟WL收敛（$\kappa$）图中宇宙学参数的DNN。我们利用射线追踪模拟的$\kappa$图，从三种常用WL统计量（功率谱、透镜峰与闵可夫斯基泛函）的组合推导宇宙学参数对$(\Omega_m,\sigma_8)$的约束。我们表明，即使在真实水平的形状噪声下，该网络也能将此组合推断的参数约束提升$20\%$。我们应用一系列公认的显著性方法解释该DNN，发现最相关的像素是那些具有极端$\kappa$值的像素。对于无噪声图，负$\kappa$区域占DNN输出归因（定义为输入空间显著性的平方）的$86-69\%$。在形状噪声存在下，归因集中于高收敛区域，其中$\kappa > 3 \sigma_{\kappa}$的区域占归因的$36-68\%$。