基于对比损失的无标签知识蒸馏用于轻量级说话人识别
声音
2022-12-07 v1 音频与语音处理
摘要
用于说话人识别（SR）的极深模型在近期研究中展现了显著的性能提升。然而，在算力受限的端侧应用中部署这些模型是不切实际的。另一方面，尽管轻量级模型性能并非最优，实践中却高度需求。本研究旨在通过大规模无标签知识蒸馏（KD）改进轻量级 SR 模型。现有的 SR 蒸馏方法通常需要说话人标签以学习任务特定知识，这是由于常规蒸馏损失效率低下。为解决效率低下问题并实现无标签 KD，我们提出采用自监督学习中的对比损失进行蒸馏。我们在来自不同来源的多个公共语音数据集上进行了大量实验。轻量级 SR 模型上的结果表明，所提出的无标签对比损失 KD 方法始终以显著优势优于常规蒸馏方法和自监督学习方法。
引用
@article{arxiv.2212.03090,
title = {Label-free Knowledge Distillation with Contrastive Loss for Light-weight Speaker Recognition},
author = {Zhiyuan Peng and Xuanji He and Ke Ding and Tan Lee and Guanglu Wan},
journal= {arXiv preprint arXiv:2212.03090},
year = {2022}
}