中文

SEOFP-NET:基于仅符号-指数浮点数的深度神经网络语音增强压缩与加速

声音 2021-11-09 v1 机器学习 音频与语音处理

摘要

众多压缩与加速策略在计算机视觉与语音信号处理等多个领域的分类任务上取得了优异成绩。然而,由于回归任务与分类任务的本质不同,相同策略在回归任务上表现不尽如人意。本文提出一种新颖的仅符号-指数浮点网络(SEOFP-NET)技术,用于压缩模型规模并加速语音增强这一语音信号处理回归任务的推理时间。所提方法通过在训练期间量化单精度浮点参数的小数位,压缩了基于深度神经网络(DNN)的语音增强模型的大小。在推理实现前,训练好的SEOFP-NET模型中的所有参数被轻微调整,以通过将浮点乘法器替换为整数加法器来加速推理时间。为验证泛化性,SEOFP-NET技术被引入不同语料下具有不同模型架构的语音信号处理中的多种语音增强任务。实验结果表明,SEOFP-NET模型的大小可被显著压缩高达81.249%,且不会明显劣化其语音增强性能,推理时间相较基线模型可加速至1.212倍。结果还验证了所提SEOFP-NET可与其他效率策略协同以实现模型压缩的协同效应。此外,将恰可察觉差(JND)应用于用户研究实验,以统计分析语音增强对听感的影响。结果表明,听者难以区分由基线模型与所提SEOFP-NET处理的增强语音信号。

关键词

引用

@article{arxiv.2111.04436,
  title  = {SEOFP-NET: Compression and Acceleration of Deep Neural Networks for Speech Enhancement Using Sign-Exponent-Only Floating-Points},
  author = {Yu-Chen Lin and Cheng Yu and Yi-Te Hsu and Szu-Wei Fu and Yu Tsao and Tei-Wei Kuo},
  journal= {arXiv preprint arXiv:2111.04436},
  year   = {2021}
}