针对自监督语音模型的成员推断攻击
密码学与安全
2022-08-16 v4 机器学习
声音
音频与语音处理
摘要
近来，将自监督学习（SSL）思想应用于连续语音已开始受到关注。在大量无标签音频上预训练的 SSL 模型能够生成惠及各类语音处理任务的通用表征。尽管这些模型被广泛部署，其潜在的隐私风险却尚未得到充分研究。在本文中，我们基于黑盒访问，使用成员推断攻击（MIA）对若干 SSL 语音模型进行了首次隐私分析。实验结果表明，这些预训练模型易受 MIA 攻击，并在语句级和说话人级均以高曲线下面积（AUC）倾向于成员信息泄露。此外，我们还进行了若干消融实验以理解促成 MIA 成功的关键因素。
引用
@article{arxiv.2111.05113,
title = {Membership Inference Attacks Against Self-supervised Speech Models},
author = {Wei-Cheng Tseng and Wei-Tsung Kao and Hung-yi Lee},
journal= {arXiv preprint arXiv:2111.05113},
year = {2022}
}
备注
Accepted to Interspeech 2022. Code will be available in the future