针对实用人脸识别系统的强物理对抗样本
密码学与安全
2022-03-30 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
众所周知，大多数现有的基于机器学习（ML）的安全关键应用易受称为对抗样本（AXs）的精心构造输入实例的攻击。攻击者可以方便地从数字世界和物理世界攻击这些目标系统。本文旨在生成针对人脸识别系统的鲁棒物理对抗样本。我们提出了一种新颖的平滑损失函数和一种补丁-噪声组合攻击，以实现强物理对抗样本。平滑损失在攻击生成过程中引入了延迟约束的概念，从而更好地处理优化复杂性并为物理域生成更平滑的对抗样本。补丁-噪声组合攻击结合来自不同分布的补丁噪声和难以察觉的小噪声，生成强大的基于注册的物理对抗样本。大量实验分析发现，我们的平滑损失比传统技术产生更鲁棒且更具可迁移性的数字和物理对抗样本。值得注意的是，我们的平滑损失在物理白盒和黑盒攻击中分别带来1.17倍和1.97倍更好的平均攻击成功率（ASR）。我们的补丁-噪声组合攻击进一步提升了性能，在物理世界白盒和黑盒攻击中分别比传统技术高出2.39倍和4.74倍的平均ASR。
引用
@article{arxiv.2203.15498,
title = {Powerful Physical Adversarial Examples Against Practical Face Recognition Systems},
author = {Inderjeet Singh and Toshinori Araki and Kazuya Kakizaki},
journal= {arXiv preprint arXiv:2203.15498},
year = {2022}
}
备注
Accepted at IEEE/CVF WACV 2022 MAP