分布式学习中共享梯度导致的语音隐私泄露
机器学习
2023-02-22 v1 密码学与安全
摘要
分布式机器学习范式（如联邦学习）近期已被应用于许多隐私关键的语音分析应用中。然而，此类框架易遭受来自共享梯度的隐私泄露攻击。尽管图像领域已有大量研究，关于从梯度中泄露语音隐私的探索仍相当有限。本文中，我们探索了在分布式学习设置下从共享梯度中恢复私有语音/说话人信息的方法。我们在一个关键词 spotting 模型上使用两类不同语音特征进行实验，通过度量原始与恢复语音信号间的相似度来量化泄露信息量。我们进一步展示了在无需访问用户数据的情况下，于分布式学习框架中推断包括语音内容与说话人身份在内的多级侧信道信息的可行性。
引用
@article{arxiv.2302.10441,
title = {Speech Privacy Leakage from Shared Gradients in Distributed Learning},
author = {Zhuohang Li and Jiaxin Zhang and Jian Liu},
journal= {arXiv preprint arXiv:2302.10441},
year = {2023}
}