高斯输入遮蔽下两层神经网络的收敛分析
机器学习
2026-02-20 v1 人工智能
数据结构与算法
最优化与控制
摘要
我们研究两层神经网络训练在高斯随机遮蔽输入下的收敛保证。这一情景对应于输入层的高斯 dropout，或来自传感器网络、隐私保护训练和联邦学习中常见的带噪声输入训练，后者可能仅访问部分或受损特征。使用神经切向核（NTK）分析，我们展示，在高斯随机遮蔽输入下训练两层 ReLU 网络可达到线性收敛，收敛误差与遮蔽方差成正比。关键技术贡献在于解决非线性激活函数内部的随机性，这本身也是独立的有趣问题。
关键词
引用
@article{arxiv.2602.17423,
title = {Convergence Analysis of Two-Layer Neural Networks under Gaussian Input Masking},
author = {Afroditi Kolomvaki and Fangshuo Liao and Evan Dramko and Ziyun Guang and Anastasios Kyrillidis},
journal= {arXiv preprint arXiv:2602.17423},
year = {2026}
}
备注
69 pages, submitted to AI/ML Journal