你能听到吗？通过超声波触发器的后门攻击
密码学与安全
2023-05-30 v3 机器学习
摘要
本工作探索了针对自动语音识别系统的后门攻击，其中我们注入不可听的触发器。通过这样做，我们使后门攻击对合法用户难以检测，从而可能更具危险性。我们在两个版本的语音数据集和三个神经网络上进行了实验，并探究了我们的攻击在触发器持续时间、位置和类型方面的性能。我们的结果表明，少于 1% 的投毒数据足以部署后门攻击并达到 100% 的攻击成功率。我们观察到短的非连续触发器导致高度成功的攻击。然而，由于我们的触发器不可听，它可以尽可能长而不引起任何怀疑，使攻击更有效。最后，我们在实际硬件上进行了攻击，并看到 adversary 可以通过空中播放不可听触发器来操纵 Android 应用中的推理。
引用
@article{arxiv.2107.14569,
title = {Can You Hear It? Backdoor Attacks via Ultrasonic Triggers},
author = {Stefanos Koffas and Jing Xu and Mauro Conti and Stjepan Picek},
journal= {arXiv preprint arXiv:2107.14569},
year = {2023}
}