通过随机平滑认证置信度
机器学习
2020-10-26 v2 机器学习
摘要
随机平滑已被证明能够为高维分类问题提供良好的认证鲁棒性保证。它利用平滑分布下输入点周围预测最可能的前两个类别的概率，为分类器的预测生成一个认证半径。然而，大多数平滑方法并未提供关于基础分类器（如深度神经网络）做出预测的置信度的任何信息。在这项工作中，我们提出了一种为平滑分类器的预测置信度生成认证半径的方法。我们考虑了两种量化置信度的概念：一个类别的平均预测分数，以及一个类别的平均预测分数超过另一个类别的幅度。我们修改了奈曼-皮尔逊引理（随机平滑中的一个关键定理），以设计一种计算认证半径的程序，确保置信度保证保持在特定阈值之上。我们在 CIFAR-10 和 ImageNet 数据集上的实验结果表明，利用置信度分数分布的信息，能够获得比忽略该信息显著更优的认证半径。因此，我们证明了在输入点处关于基础分类器的额外信息有助于改善平滑分类器的认证保证。实验代码可在 https://github.com/aounon/cdf-smoothing 获取。
引用
@article{arxiv.2009.08061,
title = {Certifying Confidence via Randomized Smoothing},
author = {Aounon Kumar and Alexander Levine and Soheil Feizi and Tom Goldstein},
journal= {arXiv preprint arXiv:2009.08061},
year = {2020}
}