当有用情境泄露：领域适应语音识别中的隐私风险
计算与语言
2026-05-28 v1
摘要
语音大语言模型正在部署于专业场景，其中领域定制已成为常规做法：用户在提示中提供包含敏感信息的情境、针对专有录音进行微调，或两者兼顾。我们识别并系统性地研究了这种定制所潜在的隐私风险：针对特定领域术语进行适配的模型，可能被引导将其上下文或训练数据中发音相似的词作为转录内容，即使实际说的是不同词汇，从而泄露私人信息。为评估此风险，我们构建了受控数据集，并衡量了两种定制机制（提示和微调）下的泄露率。两种机制均导致可测量的泄露，组合使用时效果叠加。我们评估了一种基于提示层面的缓解策略，并分析了在不同定制方法下的准确率与泄露之间的权衡，发现在不使用情境提示的纯微调方案在平衡性上最为理想。我们公开发布了代码和数据集。
引用
@article{arxiv.2605.28211,
title = {When Helpful Context Leaks: Privacy Risks in Domain-Adapted ASR},
author = {Maike Züfle and Jan Niehues},
journal= {arXiv preprint arXiv:2605.28211},
year = {2026}
}