课程式对抗训练
机器学习
2018-05-15 v1 密码学与安全
机器学习
摘要
近年来，深度学习已被应用于许多安全敏感的应用中，例如面部认证。对抗样本的存在阻碍了此类应用。目前最先进的防御结果表明，对抗训练可用于在 MNIST 上训练抵御对抗样本的鲁棒模型；但在更复杂的任务（如 CIFAR-10 和 SVHN）上，它未能达到较高的经验最坏情况准确率。在我们的工作中，我们提出了课程式对抗训练（CAT）来解决这一问题。基本思想是开发一个由具有广泛攻击强度的攻击所生成的对抗样本课程。通过两种技术来缓解遗忘和泛化问题，我们证明了 CAT 能将先前最优方法在 CIFAR-10 上的经验最坏情况准确率大幅提高 25%，在 SVHN 上提高 35%。同时，模型在非对抗输入上的性能与最先进的模型相当。
引用
@article{arxiv.1805.04807,
title = {Curriculum Adversarial Training},
author = {Qi-Zhi Cai and Min Du and Chang Liu and Dawn Song},
journal= {arXiv preprint arXiv:1805.04807},
year = {2018}
}
备注
IJCAI 2018