中文

线性卷积网络梯度流的黎曼几何

机器学习 2026-04-07 v2 代数几何

摘要

我们研究深度线性卷积网络梯度流的几何性质。对于线性全连接网络,最近的研究表明其参数空间上的梯度流可写为满足某种平衡条件的初始化下的函数空间上的黎曼梯度流。我们证明,学习线性卷积网络的参数空间上的梯度流可无论初始化方式,均写为函数空间上的黎曼梯度流。该结果适用于维数为 D2D \geq 2 的卷积,对于 D=1D=1 情形仅在所有卷积步幅大于 1 时成立。相应的黎曼度量依赖于初始化。

关键词

引用

@article{arxiv.2507.06367,
  title  = {The Riemannian Geometry Associated to Gradient Flows of Linear Convolutional Networks},
  author = {El Mehdi Achour and Kathlén Kohn and Holger Rauhut},
  journal= {arXiv preprint arXiv:2507.06367},
  year   = {2026}
}