针对自监督语音模型的模型提取攻击
声音
2023-10-10 v2 计算与语言
密码学与安全
机器学习
音频与语音处理
摘要
自监督学习（SSL）语音模型能生成给定音频片段的有意义表示，并在各种下游任务中取得令人惊叹的性能。模型提取攻击（MEA）通常指攻击者仅通过查询访问来窃取 victim 模型的功能。在本工作中，我们研究了针对 SSL 语音模型、以少量查询进行的 MEA 问题。我们提出一个两阶段框架来提取模型。第一阶段，在大规模无标签语料库上进行 SSL 以预训练一个小语音模型。第二阶段，我们从无标签语料库中主动采样一小部分片段，并用这些片段查询目标模型，将其表示作为小模型第二阶段训练的标签。实验结果表明，我们的采样方法能在不知晓目标模型任何架构信息的情况下有效提取该模型。
引用
@article{arxiv.2211.16044,
title = {Model Extraction Attack against Self-supervised Speech Models},
author = {Tsu-Yuan Hsu and Chen-An Li and Tung-Yu Wu and Hung-yi Lee},
journal= {arXiv preprint arXiv:2211.16044},
year = {2023}
}