$\Pi-$网络：深度多项式神经网络
机器学习
2020-03-27 v2 计算机视觉与模式识别
机器学习
摘要
深度卷积神经网络（DCNNs）目前是计算机视觉与机器学习中生成式与判别式学习的首选方法。DCNNs的成功可归因于对其构建模块（如残差块、整流器、复杂归一化方案等）的精心选择。本文中，我们提出-Nets，一类新的DCNNs。-Nets是多项式神经网络，即输出是输入的高阶多项式。-Nets可使用特殊跳跃连接实现，其参数可由高阶张量表示。我们通过实验证明，-Nets比标准DCNNs具有更强表示能力，且即便在大量任务与信号（图像、图与音频）中不使用非线性激活函数也能得出良好结果。当与激活函数结合使用时，-Nets在诸如图像生成等挑战性任务中取得最先进（state-of-the-art）结果。最后，我们的框架阐明了为何近期生成模型（如StyleGAN）优于其前驱（如ProGAN）。
引用
@article{arxiv.2003.03828,
title = {$\Pi-$nets: Deep Polynomial Neural Networks},
author = {Grigorios G. Chrysos and Stylianos Moschoglou and Giorgos Bouritsas and Yannis Panagakis and Jiankang Deng and Stefanos Zafeiriou},
journal= {arXiv preprint arXiv:2003.03828},
year = {2020}
}
备注
Accepted in CVPR 2020