用于图像分类器鲁棒性的可定制失真基准生成框架
计算机视觉与模式识别
2023-11-09 v2 人工智能
机器学习
摘要
我们提出一种生成对抗基准以评估图像分类模型鲁棒性的新框架。我们的框架允许用户定制最优应用于图像的失真类型，有助于解决与其部署相关的特定失真。该基准可生成不同失真级别的数据集，以评估不同图像分类器的鲁棒性。我们的结果表明，由我们的框架结合任一图像分类模型（如ResNet-50、Inception-V3和VGG-16）生成的对抗样本是有效的，并可迁移到其他模型导致其失效。即便这些模型使用最先进技术进行对抗重训练，此类失效仍会发生，证明了我们对抗样本的泛化性。在CIFAR-10和ImageNet上，相较于最先进基准技术，我们在净失真方面取得有竞争力的性能；然而，我们展示框架借助如高斯噪声之类的简单失真实现此类结果，且不引入不自然伪影或颜色溢出。这由一个基于模型的强化学习（RL）智能体以及一种将图像对扰动敏感性的深度树搜索化简为单层分析与动作的技术得以实现。选择失真并为多类设定分类概率阈值的灵活性使我们的框架适用于算法审计。
引用
@article{arxiv.2310.18626,
title = {Benchmark Generation Framework with Customizable Distortions for Image Classifier Robustness},
author = {Soumyendu Sarkar and Ashwin Ramesh Babu and Sajad Mousavi and Zachariah Carmichael and Vineet Gundecha and Sahand Ghorbanpour and Ricardo Luna and Gutierrez Antonio Guillen and Avisek Naug},
journal= {arXiv preprint arXiv:2310.18626},
year = {2023}
}
备注
2023 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV)