PBSM:基于音高提升与声音掩蔽的关键词 spotting 后门攻击
声音
2022-11-17 v1 人工智能
密码学与安全
机器学习
音频与语音处理
摘要
关键词 spotting(KWS)已广泛应用于各种语音控制场景。KWS 的训练通常基于深度神经网络并需要大量数据。制造商常使用第三方数据来训练 KWS。然而,深度神经网络对制造商而言可解释性不足,攻击者可操纵第三方训练数据以在模型训练期间植入后门。有效的后门攻击可迫使模型在特定条件(即触发器)下做出指定判断。本文中,我们设计了一种基于音高提升与声音掩蔽(Pitch Boosting and Sound Masking)的 KWS 后门攻击方案,称为 PBSM。实验结果表明,在投毒少于 1% 的训练数据时,PBSM 在三个受害模型中实现接近 90% 的平均攻击成功率是可行的。
引用
@article{arxiv.2211.08697,
title = {PBSM: Backdoor attack against Keyword spotting based on pitch boosting and sound masking},
author = {Hanbo Cai and Pengcheng Zhang and Hai Dong and Yan Xiao and Shunhui Ji},
journal= {arXiv preprint arXiv:2211.08697},
year = {2022}
}
备注
5 pages, 4 figures