分类器集成的鲁棒性验证
机器学习
2020-07-10 v2 机器学习
摘要
我们给出一种形式化验证过程，用于判定一个分类器集成是否对任意随机化攻击具有鲁棒性。此类攻击由一组确定性攻击及该集合上的一个分布构成。鲁棒性检验问题是指：给定一组分类器和一个带标签数据集，判定是否存在一个随机化攻击，对所有分类器引发某一期望损失。我们展示了该问题的NP困难性，并给出足以构成最优随机化攻击的攻击数量的上界。这些结果为推理分类器集成的鲁棒性提供了有效途径。我们提供SMT和MILP编码以计算最优随机化攻击或证明不存在引发某一期望损失的攻击。在后一种情况下，分类器集成被证明是鲁棒的。我们的原型实现验证了为图像分类任务训练的多个神经网络集成。使用MILP编码的实验结果在我们的验证过程的可扩展性和普遍适用性两方面均有前景。
引用
@article{arxiv.2005.05587,
title = {Robustness Verification for Classifier Ensembles},
author = {Dennis Gross and Nils Jansen and Guillermo A. Pérez and Stephan Raaijmakers},
journal= {arXiv preprint arXiv:2005.05587},
year = {2020}
}