骨架动作识别的黑盒攻击BASAR
计算机视觉与模式识别
2021-07-27 v6 人工智能
摘要
骨架运动作为独立数据源或补充在人类活动识别中起着至关重要的作用。基于骨架的活动识别器的鲁棒性近来受到质疑,表明当攻击者可获取识别器全部知识时,它们易受对抗攻击。然而,这种白盒要求在多数场景下过于严格,攻击并不真正具有威胁。本文表明此类威胁在黑盒设定下同样存在。为此,我们提出首个黑盒对抗攻击方法BASAR。通过BASAR,我们表明对抗攻击不仅是真正威胁,而且可极具欺骗性,因为流形上对抗样本在骨架运动中相当常见,与普遍认为对抗样本仅存在于流形外的观点相反。通过详尽评估与比较,我们表明BASAR可跨模型、数据与攻击模式实现成功攻击。通过严苛感知研究,我们表明其实现了有效且难以察觉的攻击。通过分析对不同活动识别器的攻击,BASAR有助于识别其脆弱性的潜在原因,并就哪些分类器可能更鲁棒提供见解。代码见 https://github.com/realcrane/BASAR-Black-box-Attack-on-Skeletal-Action-Recognition。
引用
@article{arxiv.2103.05266,
title = {BASAR:Black-box Attack on Skeletal Action Recognition},
author = {Yunfeng Diao and Tianjia Shao and Yong-Liang Yang and Kun Zhou and He Wang},
journal= {arXiv preprint arXiv:2103.05266},
year = {2021}
}
备注
Accepted in CVPR 2021