看透掩码：重新思考 CAPTCHA 的对抗样本
计算机视觉与模式识别
2024-09-10 v1 人工智能
摘要
现代 CAPTCHA 严重依赖对计算机而言困难但对人类简单的视觉任务。然而，图像识别模型的进步对此类 CAPTCHA 构成了重大威胁。通过生成一些隐蔽的“随机”噪声并将其添加到图像中，或将物体隐藏在图像中，这些模型很容易被欺骗。然而，这些方法是特定于模型的，因此无法帮助 CAPTCHA 欺骗所有模型。我们在本研究中表明，通过对图像进行更显著的改变，同时保留语义信息并保持人类可解，我们可以欺骗许多最先进的模型。具体而言，我们证明了通过添加不同强度的掩码，所有模型的 Accuracy @ 1 (Acc@1) 均下降了超过 50 个百分点，而据称鲁棒的模型（如 vision transformers）的 Acc@1 下降了 80 个百分点。因此，这些掩码可以有效地欺骗现代图像分类器，从而表明机器尚未赶上人类。
引用
@article{arxiv.2409.05558,
title = {Seeing Through the Mask: Rethinking Adversarial Examples for CAPTCHAs},
author = {Yahya Jabary and Andreas Plesner and Turlan Kuzhagaliyev and Roger Wattenhofer},
journal= {arXiv preprint arXiv:2409.05558},
year = {2024}
}
备注
Under review