面向语音处理卷积神经网络的抗迁移学习以实现任务不变性
机器学习
2021-01-14 v2 神经与进化计算
声音
音频与语音处理
机器学习
摘要
我们提出了用于卷积神经网络语音处理的抗迁移学习新概念。迁移学习假设目标任务的学习过程将受益于重用为另一任务学到的表示，而抗迁移则避免学习与正交任务（即与目标任务无关且可能具有误导性的任务，如语音识别中的说话人身份或情感识别中的语音内容）已学到的表示。在抗迁移学习中，我们对正在训练的网络与先前在正交任务上训练的另一个网络的激活相似性进行惩罚，从而产生更合适的表示。这带来了更好的泛化能力，并提供了对虚假或不良相关性的一定程度控制，例如避免社会偏见。我们针对卷积神经网络以不同配置实现了抗迁移，采用多种相似性度量和聚合函数，并使用六个数据集在多个语音和音频任务与设置下进行了评估和分析。我们表明抗迁移确实实现了对正交任务的预期不变性，并为当前目标任务提供了更合适的特征。抗迁移学习在所有测试用例中一致地提高了分类准确率。虽然抗迁移在训练时产生计算和内存成本，但在使用正交任务的预训练模型时计算成本相对较小。抗迁移具有广泛适用性，尤其在需要特定不变性或已有训练模型而正交任务标注数据难以获取时特别有用。
引用
@article{arxiv.2006.06494,
title = {Anti-Transfer Learning for Task Invariance in Convolutional Neural Networks for Speech Processing},
author = {Eric Guizzo and Tillman Weyde and Giacomo Tarroni},
journal= {arXiv preprint arXiv:2006.06494},
year = {2021}
}
备注
Neural Networks Journal