MSMix:一种基于插值的流形交换混合文本数据增强方法
机器学习
2023-06-01 v1 人工智能
摘要
为解决深度神经网络模型因数据不足而性能不佳的问题,提出了一种简单而有效的基于插值的数据增强方法:MSMix(Manifold Swap Mixup,流形交换混合)。该方法将两个不同的样本输入同一深度神经网络模型,然后随机选取特定层,并将其中一个样本在该层的隐藏特征部分替换为另一个样本对应层的隐藏特征。混合后的隐藏特征被输入模型并经过网络的剩余部分。还提出了两种不同的选择策略以获得更丰富的隐藏表示。在三个中文意图识别数据集上进行了实验,结果表明 MSMix 方法在全样本和小样本设置下均取得了优于其他方法的性能。
引用
@article{arxiv.2305.19617,
title = {MSMix:An Interpolation-Based Text Data Augmentation Method Manifold Swap Mixup},
author = {Mao Ye and Haitao Wang and Zheqian Chen},
journal= {arXiv preprint arXiv:2305.19617},
year = {2023}
}