TaskMix:用于口语意图理解元学习的数据增强
计算与语言
2022-10-13 v1 人工智能
机器学习
音频与语音处理
摘要
元学习已成为一个研究方向,旨在将知识从相关任务更好地迁移到未见但相关的任务。然而,元学习需要许多训练任务来学习能良好迁移到未见任务的表征;否则会导致过拟合,且性能退化至比多任务学习更差。我们表明,当任务多样性较低时,一种最先进的数据增强方法会加剧这一过拟合问题。我们提出一种简单方法 TaskMix,通过线性插值现有任务来合成新任务。我们在源自真实人机电话语音的 N-Best ASR 假设的内部多语言意图分类数据集以及两个源自 MTOP 的数据集上将 TaskMix 与许多基线进行比较。我们表明 TaskMix 优于基线,在任务多样性低时缓解过拟合,且即使在任务多样性高时也不降低性能。
引用
@article{arxiv.2210.06341,
title = {TaskMix: Data Augmentation for Meta-Learning of Spoken Intent Understanding},
author = {Surya Kant Sahu},
journal= {arXiv preprint arXiv:2210.06341},
year = {2022}
}
备注
Accepted at Findings of AACL-IJCNLP 2022