R3Net:随机权重、修正线性单元与人工神经网络的鲁棒性
机器学习
2018-03-14 v1 机器学习
摘要
我们考虑一种具有随机化特征、符号分割器以及随后的修正线性单元(ReLU)的神经网络架构。我们证明我们的架构对输入扰动表现出鲁棒性:神经网络的输出特征在输入扰动方面表现出 Lipschitz 连续性。我们进一步表明,网络输出表现出一种判别能力,即非任意接近的输入所生成的输出向量之间保持距离,并服从某一下界。这确保了两个不同的输入在输出特征空间中距离收缩的同时仍保持可判别性。
引用
@article{arxiv.1803.04186,
title = {R3Net: Random Weights, Rectifier Linear Units and Robustness for Artificial Neural Network},
author = {Arun Venkitaraman and Alireza M. Javid and Saikat Chatterjee},
journal= {arXiv preprint arXiv:1803.04186},
year = {2018}
}