面向对抗样本认证防御的轻量级 Lipschitz 间隔训练
机器学习
2018-11-21 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
我们如何以可扩展的方式使机器学习对对抗样本具有可证明的鲁棒性？由于确保 -鲁棒性的认证防御方法消耗大量资源，实践中只能实现较小程度的鲁棒性。Lipschitz 间隔训练（LMT）是一种可扩展的认证防御，但也因过度正则化而只能实现较小的鲁棒性。我们如何更高效地实现认证防御？我们提出 LC-LMT，一种解决上述问题的轻量级 Lipschitz 间隔训练。我们的方法具有以下特性：（a）高效：能在训练早期达到 -鲁棒性；（b）鲁棒：具有获得比 LMT 更高鲁棒性的潜力。在评估中，我们展示了所提方法的优势。LC-LMT 在 MNIST 上比 LMT 早 30 个 epoch 以上达到所需鲁棒性，并对合法与对抗输入均表现出超过 90 的准确率。
引用
@article{arxiv.1811.08080,
title = {Lightweight Lipschitz Margin Training for Certified Defense against Adversarial Examples},
author = {Hajime Ono and Tsubasa Takahashi and Kazuya Kakizaki},
journal= {arXiv preprint arXiv:1811.08080},
year = {2018}
}