ViewFool：评估视觉识别对对抗视角的鲁棒性
计算机视觉与模式识别
2022-10-11 v1 人工智能
密码学与安全
机器学习
机器学习
摘要
近期研究表明，视觉识别模型对分布偏移缺乏鲁棒性。然而，当前工作主要考虑模型对二维图像变换的鲁棒性，对三维世界中视角变化的探索较少。一般而言，视角变化在各种现实应用中（如自动驾驶）十分普遍，因此评估视角鲁棒性势在必行。本文提出一种称为 ViewFool 的新方法，用于寻找误导视觉识别模型的对抗视角。通过将真实世界物体编码为神经辐射场（NeRF），ViewFool 在熵正则化项下刻画了多样化对抗视角的分布，这有助于处理真实相机位姿的波动并缓解真实物体与其神经表示之间的现实差距。实验验证，常见的图像分类器对生成的对抗视角极为脆弱，且这些视角表现出较高的跨模型迁移性。基于 ViewFool，我们引入了 ImageNet-V，一个用于评测图像分类器视角鲁棒性的全新分布外数据集。对具有不同架构、目标函数和数据增强的 40 个分类器的评估结果显示，在 ImageNet-V 上测试时模型性能显著下降，这为将 ViewFool 用作有效的数据增强策略以提升视角鲁棒性提供了可能。
引用
@article{arxiv.2210.03895,
title = {ViewFool: Evaluating the Robustness of Visual Recognition to Adversarial Viewpoints},
author = {Yinpeng Dong and Shouwei Ruan and Hang Su and Caixin Kang and Xingxing Wei and Jun Zhu},
journal= {arXiv preprint arXiv:2210.03895},
year = {2022}
}
备注
NeurIPS 2022