将对比学习融入多任务 Transformer 模型以实现有效领域自适应
计算与语言
2023-10-10 v1 人机交互
机器学习
摘要
尽管语音情感识别（SER）研究已取得显著进展，但在不同语料库间实现泛化仍是一大难题。我们提出一种新颖的领域自适应技术，其体现为一个以 SER 为主任务、以对比学习与信息最大化损失为辅助任务的多任务框架，并以在大型语言模型上预训练的 transformer 微调为支撑。在 IEMOCAP 与 MSP-IMPROV 等成熟数据集上的实验经验结果表明，我们所提模型在跨语料库场景下的 SER 中达到了最先进性能。
引用
@article{arxiv.2310.04703,
title = {Integrating Contrastive Learning into a Multitask Transformer Model for Effective Domain Adaptation},
author = {Chung-Soo Ahn and Jagath C. Rajapakse and Rajib Rana},
journal= {arXiv preprint arXiv:2310.04703},
year = {2023}
}