欺骗的艺术:使用动态触发器堆叠的鲁棒后门攻击
密码学与安全
2024-10-01 v4 人工智能
机器学习
摘要
机器学习即服务(MLaaS)领域因人工智能(AI)产业的近期进展而得到越来越多的应用。然而,这一增长引发了对AI防御机制的担忧,特别是来自不可完全信任的第三方提供商的潜在隐蔽攻击。最近的研究发现,听觉后门可能使用某些修改作为其触发机制。DynamicTrigger被引入作为一种执行动态后门攻击的方法,它利用巧妙设计的调整来确保被污染的样本与干净样本无法区分。通过利用变化的信号采样率和通过动态声音触发器(如拍手)掩盖说话者身份,可以欺骗语音识别系统(ASR)。我们的实证测试表明,DynamicTrigger既强大又隐蔽,在隐蔽攻击中取得了令人印象深刻的成功率,同时在非中毒数据集上保持了卓越的准确性。
引用
@article{arxiv.2401.01537,
title = {The Art of Deception: Robust Backdoor Attack using Dynamic Stacking of Triggers},
author = {Orson Mengara},
journal= {arXiv preprint arXiv:2401.01537},
year = {2024}
}
备注
Accepted by AAAI Workshop 2024