面向低资源且噪声环境的轻量级领域感知去噪ASR:DQLoRA
声音
2025-07-15 v1 音频与语音处理
摘要
我们展示了DQLoRA的一个演示,该方法是面向低资源和噪声环境下稳健语音识别的适配器引导蒸馏框架。我们的方案采用冻结的Whisper模型作为教师模型以提供语义监督,以及配备QLoRA-based适配器的轻量级Wav2Vec2学生模型。训练在FLEURS数据集上完成,数据经DNS风格噪声增强。学生模型通过联合最小化CTC损失和基于KL散度的蒸馏损失进行优化,在保持识别准确性的同时实现高效适应。
引用
@article{arxiv.2507.10313,
title = {DQLoRA: A Lightweight Domain-Aware Denoising ASR via Adapter-guided Distillation},
author = {Yiru Yang},
journal= {arXiv preprint arXiv:2507.10313},
year = {2025}
}