输入相关随机平滑的奇特性质
机器学习
2024-03-11 v3 人工智能
机器学习
摘要
随机平滑目前被视为获得可认证鲁棒分类器的 state-of-the-art 方法。尽管其性能卓越，该方法伴随诸多严重问题，如“认证准确率瀑布”、认证与准确率权衡，甚至公平性问题。输入相关平滑方法被提出以克服这些缺陷。然而，我们证明这些方法缺乏形式化保证，因此所得证书并不合理。我们表明一般而言，输入相关平滑受维数灾难之苦，迫使方差函数具有低半弹性。另一方面，我们提供了理论与实用框架，使得即使在维数灾难存在下，于严格限制中也能使用输入相关平滑。我们给出了一个平滑方差函数的具体设计，并在 CIFAR10 与 MNIST 上测试。我们的设计缓解了经典平滑的某些问题且有形式化依据，但设计的进一步优化仍属必要。
引用
@article{arxiv.2110.05365,
title = {Intriguing Properties of Input-dependent Randomized Smoothing},
author = {Peter Súkeník and Aleksei Kuvshinov and Stephan Günnemann},
journal= {arXiv preprint arXiv:2110.05365},
year = {2024}
}