有界深度神经网络中的通用 Lipschitz 逼近
机器学习
2019-04-11 v1 机器学习
摘要
针对机器学习模型的对抗攻击是我们日益依赖这些模型的一个相当沉重的障碍。因此，可证明鲁棒（认证）的机器学习模型是一个备受关注的重要课题。Lipschitz 连续模型为解决此问题提供了一种有前景的途径。通过利用一种保持低 Lipschitz 常数的神经网络变体的表达能力，我们证明了使用 FullSort 激活函数的三层神经网络是通用 Lipschitz 函数逼近器（ULAs）。这既解释了实验结果，也为今后创建更好的认证模型铺平了道路。最后，我们给出了实验结果表明，ULAs 不仅是一种新奇事物，而且是一种提供认证分类器的有竞争力的方法，并利用这些结果启发了若干潜在的进一步研究课题。
引用
@article{arxiv.1904.04861,
title = {Universal Lipschitz Approximation in Bounded Depth Neural Networks},
author = {Jeremy E. J. Cohen and Todd Huster and Ra Cohen},
journal= {arXiv preprint arXiv:1904.04861},
year = {2019}
}