提出针对自动说话人识别的模型反演攻击

模型反演（MI）攻击能够重建机器学习（ML）模型训练数据中按类别的平均表征。已表明在每一类对应不同个体（如人脸分类器）的场景下，这代表严重的隐私风险。本工作中，我们探索 MI 的一个新应用：从说话人识别系统中提取说话人语音。我们提出一种方法以（1）从训练好的 ML 模型重建音频样本，以及（2）提取中间语音特征表征，其提供了关于说话人生物特征的宝贵洞见。为此，我们提出 MI 攻击的一种扩展，称为滑动模型反演。我们的滑动 MI 通过迭代反演音频样本的重叠块，并利用音频数据的序列特性以提升反演性能，从而扩展标准 MI。我们表明，可利用反演音频数据生成欺骗性音频样本以冒充说话人，并代为执行高安全系统的语音保护命令。据我们所知，本工作是首个将 MI 攻击扩展到音频数据的工作，且我们的结果凸显了该设置下生物特征数据提取所带来的安全风险。