神经 metamorphosis

本文引入了一种新的学习范式，称为神经 metamorphosis（NeuMeta），旨在构建自 morphable 神经网络。与为不同的架构或大小构建单独的模型不同，NeuMeta 直接学习神经网络的连续权重流形。一旦训练完成，我们即可直接从流线中抽取任何大小的网络权重，甚至对于以前未见过的配置，也无需重新训练。为实现这一宏伟目标，NeuMeta 通过训练神经隐式函数作为超网络来实现。它们接受模型空间中的坐标作为输入，并在流形上生成相应的权重值。换句话说，隐式函数的学习方式使得预测的权重在 various models sizes 上的表现都很好。在训练这些模型时，我们注意到最终性能与所学习流形的光滑性密切相关。为增强这种光滑性，我们采用了两种策略。首先，我们置换权重矩阵以实现模型内部的光滑性，通过解决最短哈特顿路径问题。此外，我们在输入坐标上添加噪声，以确保 various sizes 的模型显示一致的输出。如此，NeuMeta 在合成 various network configurations 的参数方面显示出有前景的成果。我们的广泛测试在图像分类、语义分割和图像生成中揭示了 NeuMeta 在 75% 压缩率时仍能保持 full-size performance。