将音频成员推断攻击准确率降至随机水平：四种防御方法
密码学与安全
2019-11-06 v1 机器学习
音频与语音处理
摘要
随着机器学习模型应用范围的扩大，理解其隐私与鲁棒性漏洞至关重要。在成员推断攻击中，攻击者能够判断特定数据集是否用于训练，从而危及数据隐私。已有工作主要聚焦于图像相关任务；我们将此类攻击推广至音频样本上的说话人识别。我们在 LibriSpeech 上实现了 85.9% 的攻击精确率和 90.8% 的召回率，在 VOiCES（复杂环境设定下被掩盖的语音）上实现了 78.3% 的精确率和 90.7% 的召回率。我们发现，实施预测混淆、防御性蒸馏或对抗训练等防御手段，可将攻击准确率降至随机水平。
引用
@article{arxiv.1911.01888,
title = {Reducing audio membership inference attack accuracy to chance: 4 defenses},
author = {Michael Lomnitz and Nina Lopatina and Paul Gamble and Zigfried Hampel-Arias and Lucas Tindall and Felipe A. Mejia and Maria Alejandra Barrios},
journal= {arXiv preprint arXiv:1911.01888},
year = {2019}
}
备注
7 pages, 2 figures, 7 tables