定义在一般域上的一类神经网络相关核函数的特征值衰减率
机器学习
2026-04-08 v5 机器学习
摘要
本文给出了一种策略,用以确定定义在一般域而非 上的一大类核函数的特征值衰减率(EDR)。该类核函数包含但不限于与不同深度及各种激活函数的神经网络相关的神经切线核。在证明宽神经网络的训练动力学在一般域上一致逼近神经切线核回归的动力学之后,我们可进一步说明若底层真值函数 (与 NTK 的 RKHS 相关联的插值空间),则宽神经网络是极小极大的最优的。我们也展示了过拟合的神经网络不能很好地泛化。我们相信我们确定核 EDR 的方法本身也具有独立的意义。
引用
@article{arxiv.2305.02657,
title = {On the Eigenvalue Decay Rates of a Class of Neural-Network Related Kernel Functions Defined on General Domains},
author = {Yicheng Li and Zixiong Yu and Guhan Chen and Qian Lin},
journal= {arXiv preprint arXiv:2305.02657},
year = {2026}
}