DiceHuBERT：基于自监督学习目标的 HuBERT 知识蒸馏
机器学习
2025-07-08 v1 人工智能
声音
音频与语音处理
摘要
我们介绍 DiceHuBERT，这是一个用于压缩 HuBERT 的知识蒸馏框架。HuBERT 是一种广泛使用的自监督学习（SSL）基于语音的基础模型。与现有依赖于教师和学生模型之间层级和特征级映射的蒸馏方法不同，DiceHuBERT 利用 HuBERT 的迭代自蒸馏机制，直接替换原始模型为学生模型。这种替换允许学生使用预训练 HuBERT 时使用的相同 SSL 目标进行训练，无需额外模块或架构约束。在 SUPERB 上的实验结果表明，DiceHuBERT 在已有蒸馏方法中持续领先，显著提升了音素识别性能超过 21%，语音识别（ASR）性能提升超过 14%。此外，DiceHuBERT 在多个任务上表现出竞争力，凸显了其显著优势。
引用
@article{arxiv.2507.02911,
title = {DiceHuBERT: Distilling HuBERT with a Self-Supervised Learning Objective},
author = {Hyung Gun Chi and Zakaria Aldeneh and Tatiana Likhomanenko and Oggi Rudovic and Takuya Higuchi and Li-Wei Chen and Shinji Watanabe and Ahmed Hussen Abdelaziz},
journal= {arXiv preprint arXiv:2507.02911},
year = {2025}
}
备注
5 pages, 1 figure, interspeech accepted paper