利用符号回归探索神经网络中的隐藏语义

近期许多研究致力于开发解释神经网络（NNs）黑盒行为的机制。然而，提取神经网络潜在隐藏语义（数学表示）的工作甚少。神经网络模型简洁而显式的数学表示可增进对其行为的理解与解释。为满足此需求，我们提出一种面向神经网络的新型符号回归方法（称为 SRNet）以发现 NN 的数学表达式。SRNet 创建笛卡尔遗传编程（NNCGP）来表示 NN 中单层的隐藏语义，进而利用多染色体 NNCGP 表示 NN 所有层的隐藏语义。该方法使用 (1+$\lambda$) 进化策略（称为 MNNCGP-ES）提取 NN 各层的最终数学表达式。在 12 个符号回归基准与 5 个分类基准上的实验表明，SRNet 不仅能揭示 NN 各层间复杂关系，还能提取整个 NN 的数学表示。与 LIME 和 MAPLE 相比，SRNet 具有更高插值精度，且倾向于在实际数据集上逼近真实模型。