中文

欺骗的艺术:使用动态触发器堆叠的鲁棒后门攻击

密码学与安全 2024-10-01 v4 人工智能 机器学习

摘要

机器学习即服务(MLaaS)领域因人工智能(AI)产业的近期进展而得到越来越多的应用。然而,这一增长引发了对AI防御机制的担忧,特别是来自不可完全信任的第三方提供商的潜在隐蔽攻击。最近的研究发现,听觉后门可能使用某些修改作为其触发机制。DynamicTrigger被引入作为一种执行动态后门攻击的方法,它利用巧妙设计的调整来确保被污染的样本与干净样本无法区分。通过利用变化的信号采样率和通过动态声音触发器(如拍手)掩盖说话者身份,可以欺骗语音识别系统(ASR)。我们的实证测试表明,DynamicTrigger既强大又隐蔽,在隐蔽攻击中取得了令人印象深刻的成功率,同时在非中毒数据集上保持了卓越的准确性。

关键词

引用

@article{arxiv.2401.01537,
  title  = {The Art of Deception: Robust Backdoor Attack using Dynamic Stacking of Triggers},
  author = {Orson Mengara},
  journal= {arXiv preprint arXiv:2401.01537},
  year   = {2024}
}

备注

Accepted by AAAI Workshop 2024