多项式神经网络的几何

我们研究了具有单项式激活函数的多项式神经网络（PNN）的表达能力和学习过程。网络的权重参数化神经流形。本文利用代数几何工具研究了某些神经流形：我们给出了作为半代数集的显式描述，并刻画了它们的Zariski闭包，称为神经簇。我们研究了它们的维数，并将一个代数次数——学习次数——与神经簇相关联。维数作为网络表达能力的几何度量，学习次数是训练网络复杂度的度量，并提供了可学习函数数量的上界。这些理论结果附有实验验证。