针对多个分类器的鲁棒攻击
机器学习
2019-06-10 v1 密码学与安全
计算机科学与博弈论
机器学习
摘要
我们应对在为学习器可访问多个分类器的情形下设计最优对抗噪声算法的挑战。我们展示了如何将这一问题构建为学习器与 adversary 之间二人零和博弈中的均衡策略寻找问题。在此过程中，我们阐明了对抗攻击中随机化的必要性。为计算纳什均衡，我们的主要技术重点在于设计最佳响应预言机，其可在乘法权重更新框架内实现，以将针对一组模型的确定性扰动提升为最优混合策略。我们在一系列使用线性分类器与深度神经网络的图像分类任务上展示了我们方法的实际有效性。
引用
@article{arxiv.1906.02816,
title = {Robust Attacks against Multiple Classifiers},
author = {Juan C. Perdomo and Yaron Singer},
journal= {arXiv preprint arXiv:1906.02816},
year = {2019}
}