深层多项式神经网络的可识别性
机器学习
2026-02-03 v3 人工智能
代数几何
机器学习
摘要
多项式神经网络(PNNs)拥有丰富的代数和几何结构。然而,它们的可识别性——确保可解释性的关键属性——仍不为人所了解。本文我们对深层 PNNs 的可识别性进行了全面分析,包括带偏置项和不带偏置项的结构。我们的结果揭示了激活次数与层宽度在实现可识别性之间的复杂相互作用。作为特殊案例,我们表明,在激活条件下,层宽度非递增的结构在轻度条件下是通用的可识别的,而编码器-解码器网络在解码器宽度相对于激活次数增长不太快的情况下是可识别的。我们的证明是构造性的,中心在于深层 PNNs 与低秩张量分解之间的联系,以及 Kruskal 类型唯一性定理。我们也解决了一个关于 PNN neurovarieties 维数的开放猜想,并给出其达到预期维度所需激活次数的新下界。
引用
@article{arxiv.2506.17093,
title = {Identifiability of Deep Polynomial Neural Networks},
author = {Konstantin Usevich and Ricardo Borsoi and Clara Dérand and Marianne Clausel},
journal= {arXiv preprint arXiv:2506.17093},
year = {2026}
}
备注
NeurIPS final version