隐私保护的端到端口语理解
密码学与安全
2024-03-26 v1 机器学习
音频与语音处理
摘要
口语理解（SLU）是物联网设备人机交互的关键使能技术之一，提供了易于使用的用户界面。人类语音可能包含大量用户敏感信息，如性别、身份和敏感内容。因此，新型的安全与隐私泄露问题随之出现。用户不希望其个人敏感信息暴露给不可信第三方的恶意攻击。因此，SLU系统需要确保潜在的恶意攻击者无法推断出用户的敏感属性，同时应避免严重损害SLU的准确率。为应对上述挑战，本文提出了一种新颖的SLU多任务隐私保护模型，以防止语音识别（ASR）和身份识别（IR）攻击。该模型使用隐藏层分离技术，使得SLU信息仅分布在隐藏层的特定部分，并移除其他两类信息以获得隐私安全的隐藏层。为了在效率和隐私之间取得良好平衡，我们引入了一种新的模型预训练机制，即联合对抗训练，以进一步增强用户隐私。在两个SLU数据集上的实验表明，所提出的方法可以将ASR和IR攻击的准确率降低至接近随机猜测的水平，同时使SLU性能基本不受影响。
引用
@article{arxiv.2403.15510,
title = {Privacy-Preserving End-to-End Spoken Language Understanding},
author = {Yinggui Wang and Wei Huang and Le Yang},
journal= {arXiv preprint arXiv:2403.15510},
year = {2024}
}
备注
Accepted by IJCAI