稀疏局部 Lipschitz 预测器的对抗鲁棒性
机器学习
2023-03-07 v2
摘要
本工作研究了由线性预测器与非线性表示映射组成的参数化函数的对抗鲁棒性。我们的分析依赖于\emph{稀疏局部 Lipschitz 性}(SLL),它是局部 Lipschitz 连续性的一种扩展,能更好地刻画预测器在局部扰动下的稳定性与降低的有效维度。SLL 函数保留了由表示映射中的稀疏模式给出的某种结构,并包含若干流行的假设类,如分段线性模型、Lasso 及其变体,以及深度前馈 \relu 网络。我们提供了关于对抗样本最小能量的更紧致鲁棒性证书,以及关于这些预测器鲁棒泛化误差的更紧致数据依赖非均匀界。我们针对深度神经网络实例化了这些结果,并提供了支持我们结果的数值证据,为提升这些模型鲁棒性的自然正则化策略提供了新的见解。
引用
@article{arxiv.2202.13216,
title = {Adversarial robustness of sparse local Lipschitz predictors},
author = {Ramchandran Muthukumar and Jeremias Sulam},
journal= {arXiv preprint arXiv:2202.13216},
year = {2023}
}
备注
Updated experiments