通过蒸馏与渐进式剪枝实现数据高效的低复杂度声学场景分类

声学场景分类（ASC）任务的目标是将录音分类到预定义的声学场景类别之一。然而，在真实场景中，ASC 系统常面临录音设备不匹配、低复杂度约束和标注数据有限等挑战。为缓解这些问题，本文通过新的模型架构和更优的训练策略，构建了一个数据高效且低复杂度的 ASC 系统。具体而言，我们首先设计了一种名为 Rep-Mobile 的新型低复杂度架构，该架构集成了可在推理时重参数化的多卷积分支。与其他模型相比，它取得了更好的性能和更低的计算复杂度。然后，我们应用了知识蒸馏策略，并比较了不同架构教师模型的数据效率。最后，我们提出了一种渐进式剪枝策略，该策略通过多次少量剪枝模型，与单步剪枝相比取得了更好的性能。实验在 TAU 数据集上进行。借助 Rep-Mobile 和这些训练策略，我们提出的 ASC 系统迄今取得了最先进（SOTA）的结果，并在 DCASE2024 挑战赛中以显著优势获得第一名。