管中有人：针对自动说话人识别的模拟攻击

近年来，由机器学习驱动、具备声学功能的个人设备日益普及。然而，机器学习已被证明易受对抗样本攻击。大量现代系统通过针对“人为性”来防御此类攻击，即部署机制以检测对抗样本生成过程中缺乏人类参与。然而，这些防御隐式地假设人类无法产生有意义且有针对性的对抗样本。在本文中，我们表明这一基本假设是错误的。具体而言，我们证明，对于说话人识别等任务，人类能够以极低的成本和监督直接产生模拟对抗样本：只需通过一根管子说话，攻击者在说话人识别的机器学习模型眼中就能可靠地冒充其他说话人。我们的发现延伸至一系列其他声学生物特征任务（如活体检测），对其在电话银行等现实安全关键场景中的使用提出了质疑。