针对点云 DNN 的轻推攻击
密码学与安全
2020-11-25 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
三维点云数据在自动驾驶等安全关键应用中的广泛采用，使得对抗样本成为真实威胁。现有的点云对抗攻击成功率较高，但修改了大量点，这在实际场景中通常难以实现。本文探讨了一类仅扰动输入点云中少数点的攻击，并将其命名为轻推攻击（nudge attacks）。我们证明轻推攻击能够成功翻转现代点云 DNN 的预测结果。我们提出了基于梯度和基于决策两种变体，展示了它们在白盒和灰盒场景下的有效性。我们的大量实验表明，轻推攻击通过更改整个点云输入中的少数点甚至单个点，即可有效生成有目标和无目标的对抗点云。我们发现，仅用单个点就能可靠地阻挠 12%–80% 情况下的预测，而 10 个点可进一步将此比例提升至 37%–95%。最后，我们讨论了针对此类攻击的可能防御手段，并探讨了其局限性。
引用
@article{arxiv.2011.11637,
title = {Nudge Attacks on Point-Cloud DNNs},
author = {Yiren Zhao and Ilia Shumailov and Robert Mullins and Ross Anderson},
journal= {arXiv preprint arXiv:2011.11637},
year = {2020}
}