联邦语音模型中的个人属性泄露
计算与语言
2025-10-16 v1 人工智能
摘要
联邦学习是训练机器学习模型的常见方法，可实现隐私保留。在本文中，我们分析了ASR模型在联邦设置下针对属性推断攻击的脆弱性。我们在三个ASR模型上测试了一种非参数白盒攻击方法，遵循被动威胁模型：Wav2Vec2、HuBERT和 Whisper。该攻击仅基于权重差异进行操作，不需要获取目标说话人的原始语音。我们证明了对敏感人口统计学和临床属性的攻击可行性：性别、年龄、方言、情绪和语音功能障碍(dysarthria)。我们的发现表明，缺乏或在预训练数据中不存在的属性更容易受到此类推断攻击。特别是，方言信息可以从所有模型中可靠地推断出来。我们的发现揭示了联邦ASR模型中以前未记录的脆弱性，并为改进安全性提供了见解。
引用
@article{arxiv.2510.13357,
title = {Personal Attribute Leakage in Federated Speech Models},
author = {Hamdan Al-Ali and Ali Reza Ghavamipour and Tommaso Caselli and Fatih Turkmen and Zeerak Talat and Hanan Aldarmaki},
journal= {arXiv preprint arXiv:2510.13357},
year = {2025}
}
备注
5 pages, 4 figures, 2 tables