利用扰动损失特征改进 ASR 模型审计中的成员推理
机器学习
2024-05-03 v1 密码学与安全
声音
音频与语音处理
摘要
成员推理（MI）对自动语音识别（ASR）系统的训练数据构成了重大隐私威胁，同时也提供了根据用户数据审计这些模型的机会。本文探讨了基于损失特征结合高斯和对抗扰动在 ASR 模型中执行 MI 的有效性。据我们所知，这种方法尚未被研究过。我们将提出的特征与常用的基于误差的特征进行比较，发现所提出的特征大大增强了样本级 MI 的性能。对于说话人级 MI，这些特征改善了结果，尽管幅度较小，因为基于误差的特征在该任务中已经获得了高性能。我们的发现强调了考虑不同特征集和对目标模型的访问级别对于在 ASR 系统中进行有效 MI 的重要性，为审计此类模型提供了有价值的见解。
引用
@article{arxiv.2405.01207,
title = {Improving Membership Inference in ASR Model Auditing with Perturbed Loss Features},
author = {Francisco Teixeira and Karla Pizzi and Raphael Olivier and Alberto Abad and Bhiksha Raj and Isabel Trancoso},
journal= {arXiv preprint arXiv:2405.01207},
year = {2024}
}
备注
Trustworthy Speech Processing, Satellite Workshop at ICASSP 2024