基于集成方法的可迁移音频对抗攻击研究
密码学与安全
2023-04-19 v1 机器学习
声音
音频与语音处理
摘要
近年来，深度学习（DL）模型在自动驾驶、人脸识别和语音识别等诸多领域取得了显著进展。然而，深度学习模型对对抗攻击的脆弱性因其鲁棒性和泛化性不足而引起社区的严重关切。此外，可迁移攻击已成为黑盒攻击的一种重要方法。在本工作中，我们探究了影响基于DL的语音识别中对抗样本（AEs）可迁移性的潜在因素。我们还讨论了不同DL系统的脆弱性以及决策边界的不规则本质。我们的结果显示，语音与图像在AEs可迁移性上存在显著差异：图像中数据相关性低，而语音识别中则相反。受基于dropout的集成方法启发，我们提出随机梯度集成与动态梯度加权集成，并评估了集成对AEs可迁移性的影响。结果表明，两种方法生成的AEs均能有效迁移至黑盒API。
引用
@article{arxiv.2304.08811,
title = {Towards the Transferable Audio Adversarial Attack via Ensemble Methods},
author = {Feng Guo and Zheng Sun and Yuxuan Chen and Lei Ju},
journal= {arXiv preprint arXiv:2304.08811},
year = {2023}
}
备注
Submitted to Cybersecurity journal 2023