PhantomSound：通过瞬秒音素注入的黑名单、查询高效音频对抗攻击
密码学与安全
2023-09-14 v1 人工智能
人机交互
摘要
本文中，我们提出PhantomSound，一种面向语音助手的查询高效黑盒攻击。现有的语音助手黑盒对抗攻击要么应用替代模型，要么利用中间模型输出估计梯度以制造对抗音频样本。然而，这些攻击方法需要大量查询与冗长训练阶段。PhantomSound利用基于决策的攻击生成有效对抗音频，并通过优化梯度估计减少查询数量。实验中，我们在3种真实场景下对4种不同语音转文本API实施攻击，以展示实时攻击影响。结果表明，PhantomSound在 airborne 条件下攻击5种流行商业语音可控设备时实用且鲁棒，并能以>95%成功率绕过3种活体检测机制。基准结果显示PhantomSound可在数分钟内生成对抗样本并发动攻击。相较最先进黑盒攻击，我们以仅约300次查询（约5分钟）和约1,500次查询（约25分钟）分别将成功非定向与定向对抗攻击的查询效率显著提升、成本降低93.1%与65.5%。
引用
@article{arxiv.2309.06960,
title = {PhantomSound: Black-Box, Query-Efficient Audio Adversarial Attack via Split-Second Phoneme Injection},
author = {Hanqing Guo and Guangjing Wang and Yuanda Wang and Bocheng Chen and Qiben Yan and Li Xiao},
journal= {arXiv preprint arXiv:2309.06960},
year = {2023}
}
备注
RAID 2023