Puppet-CNN：用于输入自适应卷积网络的连续参数动力学
机器学习
2026-03-10 v2 人工智能
摘要
现代卷积神经网络将计算组织为离散的层堆栈，其参数被独立存储和学习，层数作为架构超参数固定。在这项工作中，我们探索了一种替代视角：网络参数化本身能否被建模为连续动力系统？我们引入了 Puppet-CNN，这是一个将卷积层参数表示为沿由神经常微分方程（ODE）控制的学习参数流演化的状态的框架。在此公式下，层参数通过参数空间中的连续演化生成，生成层的有效数量由学习动力学的积分范围决定，该范围可通过输入复杂度进行调节以实现输入自适应计算。我们在标准图像分类基准上验证了该公式，并证明连续参数动力学可以实现具有竞争力的预测性能，同时大幅减少存储的可训练参数。这些结果表明，通过动力系统的视角来审视网络参数化，为自适应卷积模型提供了一个结构化且灵活的设计空间。
引用
@article{arxiv.2411.12876,
title = {Puppet-CNN: Continuous Parameter Dynamics for Input-Adaptive Convolutional Networks},
author = {Yucheng Xing and Xin Wang},
journal= {arXiv preprint arXiv:2411.12876},
year = {2026}
}
备注
12 pages, 4 figures. Updated version with revised title