针对说话人确认的后门攻击

说话人确认已在许多关键任务领域被广泛且成功地用于用户识别。说话人确认的训练需要大量数据，因此用户通常需要采用第三方数据（例如来自互联网或第三方数据公司的数据）。这引发了采用不可信第三方数据是否会带来安全威胁的问题。在本文中，我们证明了可以通过投毒训练数据来注入隐藏后门以感染说话人确认模型。具体而言，基于对确认任务的理解，我们设计了一种基于聚类的攻击方案，其中来自不同聚类的投毒样本将包含不同的触发器（即预定义的语音片段）。被感染的模型在良性样本上表现正常，而攻击者指定的未注册触发器将成功通过验证，即使攻击者不了解已注册说话人信息。我们还证明了现有的后门攻击无法直接用于攻击说话人确认。我们的方法不仅为设计新颖攻击提供了新视角，也作为提升确认方法鲁棒性的强基线。复现主要结果的代码可在 \url{https://github.com/zhaitongqing233/Backdoor-attack-against-speaker-verification} 获取。