从高准确率分类器构造可证明对抗鲁棒的分类器
机器学习
2019-12-17 v1 数据结构与算法
机器学习
摘要
现代具有极高准确率的机器学习模型已被证明易受输入上微小的、对抗性选择的扰动的影响。给定对高准确率分类器 的黑盒访问，我们展示如何构造一个新的分类器 ，其具有高准确率且对对抗性 有界扰动鲁棒。我们的算法建立在近期被证明优于所有先前针对 有界对手的防御的随机平滑（randomized smoothing）框架之上。利用随机划分和加倍维数等技术，我们能够将 的对抗误差按最优误差界定。本文我们聚焦于概念性贡献，但也给出两个示例以阐明我们的框架。我们将论证，在某些假设下，我们的界在这些情形中最优。
引用
@article{arxiv.1912.07561,
title = {Constructing a provably adversarially-robust classifier from a high accuracy one},
author = {Grzegorz Głuch and Rüdiger Urbanke},
journal= {arXiv preprint arXiv:1912.07561},
year = {2019}
}