音频审计器：物联网语音服务中的用户级成员推断
密码学与安全
2021-06-29 v6 声音
音频与语音处理
摘要
随着深度学习技术的快速发展，部署在各种物联网（IoT）设备上的语音服务的普及度日益提高。在本文中，我们在语音服务的问题空间下考察用户级成员推断，通过设计一个音频审计器，在严格的黑盒访问条件下验证特定用户是否曾在不知情的情况下贡献了用于训练自动语音识别（ASR）模型的音频。利用输入音频数据及其对应翻译文本的用户表示，我们所训练的审计器在用户级审计中十分有效。我们还观察到，在特定数据上训练的审计器无论 ASR 模型架构如何都能很好地泛化。我们在采用 LSTM、RNNs 和 GRU 算法训练的 ASR 模型上，于两条最先进的流水线（混合 ASR 系统与端到端 ASR 系统）验证了该审计器。最后，我们在 iPhone Siri 上对我们的审计器进行了真实世界试验，总体准确率超过 80%。我们希望本文所提出的方法与发现能够为隐私倡导者完善物联网隐私提供参考。
引用
@article{arxiv.1905.07082,
title = {The Audio Auditor: User-Level Membership Inference in Internet of Things Voice Services},
author = {Yuantian Miao and Minhui Xue and Chao Chen and Lei Pan and Jun Zhang and Benjamin Zi Hao Zhao and Dali Kaafar and Yang Xiang},
journal= {arXiv preprint arXiv:1905.07082},
year = {2021}
}
备注
Accepted by PoPETs 2021.1