深层 Heaviside 网络的表达性
机器学习
2025-05-02 v1 机器学习
数值分析
数值分析
摘要
我们证明深层 Heaviside 网络(DHNs)具有有限的表达性,但通过引入跳跃连接或线性激活神经元可克服这一限制。我们给出这些网络类别的 VC 维度下界和上界以及逼近率。作为应用,我们推导 DHN 在非参数回归模型中的统计收敛率。
引用
@article{arxiv.2505.00110,
title = {On the expressivity of deep Heaviside networks},
author = {Insung Kong and Juntong Chen and Sophie Langer and Johannes Schmidt-Hieber},
journal= {arXiv preprint arXiv:2505.00110},
year = {2025}
}
备注
61 pages, 16 figures