AI驱动语音攻击新兴威胁的实用调查：商业语音控制系统有多脆弱？
密码学与安全
2024-01-08 v2 声音
音频与语音处理
摘要
人工智能驱动的音频攻击的出现揭示了语音控制系统中的新安全漏洞。尽管研究人员已经提出了多种针对语音控制系统（VCS）的攻击策略，但VCS的持续进步削弱了许多此类攻击的影响。认识到这一动态格局，我们的研究致力于全面评估商业语音控制系统对一系列恶意音频攻击的抵御能力。通过大量实验，我们评估了六种突出的攻击技术在多种语音控制接口和设备上的效果。与主流说法相反，我们的结果表明商业语音控制系统对现有威胁表现出更强的抵抗力。特别是，我们的研究强调了白盒攻击在黑盒场景中的无效性。此外，攻击者在与商业系统（如Apple Siri和Samsung Bixby）进行基于查询的交互时，在获取精确梯度估计方面面临重大障碍。同时，我们发现当前的防御策略并非完全免疫于高级攻击。我们的发现为增强VCS的防御机制提供了有价值的见解。通过这项调查，我们旨在提高学术界对VCS安全问题的认识，并倡导在这一关键领域继续进行深入研究。
引用
@article{arxiv.2312.06010,
title = {A Practical Survey on Emerging Threats from AI-driven Voice Attacks: How Vulnerable are Commercial Voice Control Systems?},
author = {Yuanda Wang and Qiben Yan and Nikolay Ivanov and Xun Chen},
journal= {arXiv preprint arXiv:2312.06010},
year = {2024}
}
备注
14 pages