一种用于声学知识迁移中潜变量学习的变分贝叶斯方法
音频与语音处理
2022-02-22 v2 人工智能
机器学习
神经与进化计算
声音
摘要
我们提出一种变分贝叶斯(VB)方法，用于学习深度神经网络(DNN)模型中潜变量的分布以进行跨域知识迁移，以解决训练和测试条件间的声学失配问题。与在常规最大后验估计中进行点估计、且在估计海量模型参数时面临维数灾难风险不同，我们通过 VB 推断框架将注意力集中于估计可处理的 DNN 潜变量数目。为实现模型迁移，从源域学到的知识被编码于潜变量的先验分布中，并在贝叶斯意义下与目标域的一小组自适应数据最优结合，以逼近相应的后验分布。在声学场景分类的设备自适应上的实验结果表明，我们提出的 VB 方法能在目标设备上获得良好提升，并一致优于 13 种最先进的知识迁移算法。
引用
@article{arxiv.2110.08598,
title = {A Variational Bayesian Approach to Learning Latent Variables for Acoustic Knowledge Transfer},
author = {Hu Hu and Sabato Marco Siniscalchi and Chao-Han Huck Yang and Chin-Hui Lee},
journal= {arXiv preprint arXiv:2110.08598},
year = {2022}
}
备注
Accepted to ICASSP 2022. Code is available at https://github.com/MihawkHu/ASC_Knowledge_Transfer