验证码攻击:将验证码用于反人类
密码学与安全
2022-04-05 v3 计算机视觉与模式识别
机器学习
摘要
如今,人们在在线平台(如社交网络、博客)上生成并分享海量内容。2021 年,Facebook 19 亿日活跃用户每分钟发布约 15 万张照片。内容审核员持续监控这些在线平台以防止不当内容(如仇恨言论、裸露图像)传播。基于深度学习(DL)进展,自动内容审核器(ACM)协助人工审核员处理高数据量。尽管有其优势,攻击者仍可利用 DL 组件(如预处理、模型)的弱点影响其性能。因此,攻击者可利用此类技术通过规避 ACM 来传播不当内容。本工作中,我们提出 CAPtcha 攻击(CAPA),一种通过规避 ACM 控制使用户在线传播不当文本的对抗技术。CAPA 通过生成定制文本验证码,利用 ACM 粗心的设计实现与内部流程漏洞。我们在真实世界 ACM 上测试该攻击,结果证实了这一简单而有效攻击的凶猛性,多数情况下规避成功率高达 100%。同时,我们展示了设计 CAPA 缓解措施的困难,为验证码研究领域开启新挑战。
引用
@article{arxiv.2201.04014,
title = {Captcha Attack: Turning Captchas Against Humanity},
author = {Mauro Conti and Luca Pajola and Pier Paolo Tricomi},
journal= {arXiv preprint arXiv:2201.04014},
year = {2022}
}
备注
Currently under submission