联邦学习中针对语音情感识别属性推断攻击的用户级差分隐私
密码学与安全
2023-04-18 v2 声音
音频与语音处理
摘要
许多现有的隐私增强语音情感识别（SER）框架侧重于在集中式机器学习设置中通过对抗训练扰动原始语音数据。然而，这种隐私保护方案可能失效，因为攻击者仍可以访问被扰动的数据。近年来，分布式学习算法，尤其是联邦学习（FL），在保护机器学习应用隐私方面日益流行。虽然FL通过将数据保留在本地设备提供了保护隐私的良好直觉，但先前工作表明，对于使用FL训练的SER系统，诸如属性推断攻击之类的隐私攻击是可行的。在这项工作中，我们提议评估用户级差分隐私（UDP）在缓解FL中SER系统隐私泄露方面的效果。UDP通过隐私参数 和 提供理论隐私保证。我们的结果表明，在攻击者访问一次模型更新时，UDP能有效减少属性信息泄露，同时保持SER系统的效用。然而，当FL系统向攻击者泄露更多模型更新时，UDP的有效性会下降。我们公开了代码以复现结果：https://github.com/usc-sail/fed-ser-leakage。
引用
@article{arxiv.2204.02500,
title = {User-Level Differential Privacy against Attribute Inference Attack of Speech Emotion Recognition in Federated Learning},
author = {Tiantian Feng and Raghuveer Peri and Shrikanth Narayanan},
journal= {arXiv preprint arXiv:2204.02500},
year = {2023}
}