高斯过程分类的对抗脆弱性界
密码学与安全
2019-09-20 v1 机器学习
机器学习
摘要
机器学习（ML）分类正日益用于安全关键系统。保护ML分类器免受对抗样本攻击至关重要。我们提出，主要威胁在于攻击者扰动一个被自信分类的输入以产生自信的误分类。为此，我们为高斯过程分类器设计了一个对抗界（AB），该界对整个输入域成立，限制了任何未来对抗方法造成此类误分类的可能性。这是鲁棒性的形式化保证，而非仅由经验得出的结果。我们研究了如何配置分类器以最大化该界，包括使用稀疏近似，从而使该方法产生一个实用、有用且可证明鲁棒的分类器，并使用多个数据集对其进行了测试。
引用
@article{arxiv.1909.08864,
title = {Adversarial Vulnerability Bounds for Gaussian Process Classification},
author = {Michael Thomas Smith and Kathrin Grosse and Michael Backes and Mauricio A Alvarez},
journal= {arXiv preprint arXiv:1909.08864},
year = {2019}
}
备注
10 pages + 2 pages references + 7 pages of supplementary. 12 figures. Submitted to AAAI