关于正交初始化神经网络的核近似有效性
机器学习
2021-04-14 v1 神经与进化计算
摘要
在本札记中,我们将具有高斯分布权重的神经网络的核函数近似结果推广到使用 Haar 分布随机正交矩阵(可能带重标度)初始化的单层网络。这是利用随机矩阵理论的最新结果实现的。
引用
@article{arxiv.2104.05878,
title = {On the validity of kernel approximations for orthogonally-initialized neural networks},
author = {James Martens},
journal= {arXiv preprint arXiv:2104.05878},
year = {2021}
}